Das „heute journal“ hat am Sonntag einen Beitrag über ICE-Einsätze mit einem von Sora generierten Video bebildert. Der Sender erklärt das zunächst mit Absicht.
In dem Beitrag geht es um ein „Klima der Angst”, das das teils brutale Vorgehen der US-Grenzpolizei ICE gegen illegale Migranten in der Gesellschaft erzeugt. In der Anmoderation weist Moderatorin Dunja Hayali darauf hin, dass dazu im Internet zahlreiche Videos von ICE-Einsätzen kursieren
Diesen Verstoß gegen eigene Richtlinien erklärt der Sender zunächst mit einem „technischen Fehler“ und hat das KI-Material aus dem Beitrag entfernt. Die Chefredaktion bittet „in aller Form“ um Entschuldigung.
„Sie führen Kinder vor den Augen ihrer Eltern ab”, heißt es in dem ursprünglich gesendeten Beitrag zu einer Videosequenz, die sichtbar das Wasserzeichen von OpenAIs generativer KI Sora aufweist.
Abgesehen von dem Wasserzeichen enthält die Szene, in der angebliche ICE-Mitarbeiter anscheinend eine Mutter von ihren Kindern zu trennen versuchen, zahlreiche Hinweise auf den Einsatz von KI. Neben den KI-typischen Unschärfen im Detail sind das ein ausgedachtes Behördenwappen, eine generische Uniform und die Tatsache, dass der angebliche ICE-Mitarbeiter sein Gesicht zeigt.
Das ZDF spricht von einem „technischen Fehler“: In dem Beitrag „hätten KI-generierte Bilder gekennzeichnet werden müssen“, heißt es in einer Korrektur, die der Sender am Montag veröffentlicht hat. „Diese Kennzeichnung wurde bei der Überspielung des Beitrags aus technischen Gründen nicht übertragen.“ Warum das ZDF überhaupt KI-generierte Videos in seinem Beitrag zeigte, geht aus der Stellungnahme nicht hervor.
„Der Beitrag zeigt, dass sowohl mit echten als auch mit KI-generierten Bildern ein Klima der Angst erzeugt wird. Wir bedauern, dass dabei nicht deutlich genug wurde, welche Bilder real sind und welche nicht“, erklärt ein Sprecher gegenüber heise online.
Ich zitierte aus folgenden Artikeln...
https://www.bz-berlin.de/deutschland/zdf-faelschung-ki-heute-journal
https://www.heise.de/news/ZDF-Beitrag-mit-gefaelschtem-KI-Video-im-heute-journal-11179788.html
Mein persönliches Fazit:
Anscheinend reichen 2,7 Mrd. nicht mehr aus, um Qualitätsjournalismus zu betreiben. Dass mit Fake News Stimmung gemacht wird, wissen wir seit der angeblichen Corona-Pandemie.
Darum geht es mir bei meinem heutigen Fazit allerdings nicht.
Ich plädiere dafür, dass du dich umgehend intensiver mit KI beschäftigst, um KI-generierte Inhalte in Zukunft einfacher zu erkennen. Bleibe grundsätzlich immer skeptisch, denn die Manipulation wird in Zukunft dank KI noch einfacher und wird günstiger werden.
Seit zwei Jahren nutze ich KI, um Bilder für meinen Blog zu generieren. So verletze ich keine Urheberrechte. Dafür nutze ich die Fotor-App.
Ich lasse meine Texte mit Deepl optimieren.
Mit ChatGPT schreibe ich Stellungnahmen für Behörden und Kunden.
Meine Kinder nutzen KI bereits, um ihre Hausaufgaben zu optimieren.
Meine Frau holt sich inzwischen von KI Ideen für ihr Business und schreibt ihre Dokumentationen über ihre Klienten mit KI-Unterstützung.
KI birgt enorme Chancen zur Kosteneinsparung, aber eben auch zur Manipulation.
English
On Sunday, the German news program "heute journal" illustrated a report on ICE operations with a video generated by Sora. The broadcaster initially explained that this was intentional.
The report addressed a "climate of fear" created in society by the sometimes brutal actions of the US Border Patrol (ICE) against undocumented migrants. In her introduction, anchor Dunja Hayali pointed out that numerous videos of ICE operations are circulating online.
The broadcaster initially explained this violation of its own guidelines as a "technical error" and removed the AI-generated footage from the report. The editor-in-chief offered a "formal" apology.
"They are taking children away in front of their parents," the originally broadcast report states, referring to a video sequence that clearly bears the watermark of OpenAI's generative AI, Sora.
Aside from the watermark, the scene, in which alleged ICE officers appear to be trying to separate a mother from her children, contains numerous indications of the use of AI. Besides the typical AI-generated imperfections in the details, the video features a fabricated government emblem, a generic uniform, and the fact that the alleged ICE employee shows his face.
ZDF (the German public broadcaster) refers to a "technical error": "AI-generated images should have been labeled in the report," the broadcaster stated in a correction released on Monday. "This labeling was not transferred during the transmission of the report for technical reasons." The statement does not explain why ZDF included AI-generated videos in its report at all.
"The report demonstrates that a climate of fear is created using both real and AI-generated images. We regret that it was not made sufficiently clear which images were real and which were not," a spokesperson told heise online.
. ... I quoted from the following articles...
https://www.bz-berlin.de/deutschland/zdf-faelschung-ki-heute-journal
https://www.heise.de/news/ZDF-Beitrag-mit-gefaelschtem-KI-Video-im-heute-journal-11179788.html
My personal conclusion:
Apparently, 2.7 billion euros are no longer enough to produce quality journalism. We've known about the use of fake news to manipulate public opinion since the alleged coronavirus pandemic.
However, that's not what my conclusion today is about.
I advocate that you immediately start learning more about AI so that you can more easily recognize AI-generated content in the future. Always remain skeptical, because manipulation will become even easier and cheaper thanks to AI.
For two years now, I've been using AI to generate images for my blog. This way, I don't infringe on any copyrights. I use the Fotor app for this.
I use DeepL to optimize my texts.
I use ChatGPT to write statements for government agencies and clients.
My children already use AI to optimize their homework.
My wife now uses AI to generate business ideas and writes her client reports with AI support.
AI offers enormous opportunities for cost savings, but also for manipulation.