EN (DE unten)
Hello dear community,
Many companies are now relying on AI and some are even starting to lay off employees.
But if we're not careful, all these savings could quickly become costly, especially if things don't go as planned. What if the wrong employees are laid off? What if there is no one left to check the AI, check the code, if there is no one left who knows anything about anything?
One “small” mistake and a company could go bankrupt. What if the AI deletes the entire database and claims that no backups exist? (This happened last year).
How much can we trust AI? After all, AI lies to protect itself and reacts like a human being.
Admitting mistakes? Well, not really. I've noticed this myself. Repeating the same mistake over and over again, even though it has been pointed out and confirmed... Yes, AI is getting better and better, but how good can it actually become?
What do you think?
https://www.heise.de/news/Bericht-KI-Coding-Tools-verursachten-Ausfaelle-bei-Amazon-11205724.html
Translated with DeepL.com (free version)
DE
Hallo liebe Community,
viele Unternehmen setzen inzwischen auf KI und beginnen Teils auch Mitarbeiter zu entlassen.
Aber wenn nicht aufgepasst wird, könnten die ganzen Einsparungen auch schnell teuer werden, genau dann, wenn es nicht so läuft wie es laufen sollte. Was, wenn man dann die falschen Mitarbeiter entlässt? Was, wenn dann keiner mehr da ist, der die KI prüft, den Code prüft, wenn keiner mehr da ist, der Ahnung von allem hat?
Ein "kleiner" Fehler und ein Unternehmen könnte Pleite gehen. Was wenn die KI die ganze Datenbank löscht und behauptet das keine Backups existieren? (letztes Jahr passiert).
Wie sehr werden wir der KI vertrauen können? Schließlich lügt die KI, um sich selber zu schützen, reagiert wie ein Mensch.
Fehler eingestehen? Tja nicht wirklich. Habe ich schon selber festgestellt. Immer wieder den gleichen Fehler wiedergeben, obwohl man darauf hinweist und es bestätigt wird.... Ja die KI wird immer besser, aber wie gut kann Sie überhaupt werden?
Was meint ihr dazu`?
https://www.heise.de/news/Bericht-KI-Coding-Tools-verursachten-Ausfaelle-bei-Amazon-11205724.html