EU AI Act: Was Unternehmen jetzt wissen müssen

00:00:00: Und zwar tritt jetzt am Wochenende, am zweiten August der sogenannte EU AI

00:00:05: Act

00:00:05: in Kraft.

00:00:06: Was

00:00:06: da gerade passiert?

00:00:07: Weil so sehr ich auf KI stehe und da ganz viel mit ausprobiere sieht man natürlich auch die potenziellen Gefahren dahinter.

00:00:16: Wir haben jetzt auch grad schon ein bisschen gemerkt.

00:00:17: es herrschen dann doch noch Verwirrungen.

00:00:20: wir haben uns ja auch jetzt die letzten Wochen intensiv damit beschäftigt und haben auch festgestellt zum Beispiel bei dem Begriff Deep Fake dass wir eigentlich ein anderes Verständnis von hat.

00:00:29: Da gab es ja auch schon Fälle, wo eben Karrieren halt auch in deutschen Nachrichtensendungen im öffentlichen Rettlichen nicht gekennzeichnet waren oder nicht quasi disclosed wurden.

00:00:39: Und die so typische EU-Wennstrafe dann drastisch.

00:00:42: also da geht's kanns in die Millionen gehen.

00:00:46: Auch bei der Bildretusche so wie weit ist das Retusche?

00:00:49: Inwieweit habe ich es dann schon soweit verändert dass ich es kennzeichnen muss zwischen zwei Calls?

00:01:01: Hallo und herzlich willkommen zu einer neuen Folge von Zwischen zwei Calls, einem Podcast von Wee Communications wo wir uns in einem relativ kurzen Format über Themen aus der Kommunikations- und Agenturwelt unterhalten.

00:01:13: Ich bin Theresa, Bin Digitalberaterin bei Wee und heute ist der Daniel bei mir.

00:01:18: Genau, Daniel ist unser Managing Director hier in Deutschland und wir haben heute ein brandaktuelles Thema dabei.

00:01:24: Und zwar tritt jetzt am Wochenende am zweiten August der sogenannte EU AI Act in Kraft, der ja Transparenzpflichten und Regelungen zu KI generierten Inhalten bilden haltet und über den wollen wir uns heute ein bisschen sprechen weil da auch noch sehr viel Verwirrung herrscht.

00:01:43: starten wir doch mal Damit rein, dass ja wahrscheinlich das Wort KI-Kennzeichnungspflicht haben die meisten gerade in den letzten Tagen und Wochen schon viel gehört.

00:01:54: Aber was genau bedeutet es denn?

00:01:57: Was passiert da jetzt am Wochenende?

00:02:00: Also der kurz zur Einordnung der EU AI Act ist schon länger in Kraft.

00:02:04: Jetzt startet halt die nächste Stufe und die bedingt diese KI Kennzeichnungen.

00:02:09: Ja genau!

00:02:09: Das passiert das, was eigentlich im Titel schon drin steht.

00:02:13: ab Anfang nächster Woche, offiziell ab Sonntag sind jegliche Hersteller von KI produzierten Inhalten dazu verpflichtet das kenntlich zu machen.

00:02:23: So kann man es wahrscheinlich in einem Satz zusammenfassen.

00:02:26: Das hat dann verschiedene Hipplikationen.

00:02:28: also wenn ich Bilder Musikstücke Audio Tracks Videos mit KI herstellt dann muss sich das halt kenntlich machen

00:02:37: und betrifft ja gerade bei uns jetzt der Kommunikationsbabel auch die Texte richtig?

00:02:43: Also sämtliche Inhalte, die an Zielgruppen ausgespielt werden können und vor allem öffentlich ausgespült werden.

00:02:49: Die müssen eben erkendlich sein oder müssen kändlich gemacht werden.

00:02:51: wenn KI da ja... Da geht es dann schon los maßgeblich genutzt wurde zuerst.

00:02:56: Genau

00:02:56: das war jetzt schon die perfekte Überleitung zur zweiten Frage!

00:03:00: Müssen wir denn jetzt alles kennzeichnen was wir irgendwie mit KI angefasst haben?

00:03:06: offenbar ja nicht, man hat jetzt auch schon mitbekommen okay es wird Abstufungen geben.

00:03:11: Aber wo liegt jetzt dann der Unterschied zwischen der tatsächlichen Pflicht dass ich es kennzeichnen muss in welcher Form auch immer und dieser alltäglichen Nutzung von Chatchivity Co-Pilot Gemini welches LLM man auch präferiert?

00:03:28: Wo ist das so?

00:03:29: die Grenze also was darf ich einfach machen?

00:03:34: komme ich wirklich in die Präduier, wenn ich es nicht kennzeichne.

00:03:37: Es hilft wahrscheinlich sich einfach von der anderen Seite anzuschauen.

00:03:41: also ich muss auch vorweg schicken.

00:03:42: Ich finde das sehr gut was da gerade passiert weil so sehr ich auf Kali stehe und da ganz viel mit ausprobiere sieht man natürlich auch die potenziellen Gefahren dahinter und dass was die EU hier versucht anders als alle anderen Regionen in der Welt ist hier die EU-Bürger und die Konsumenten von diesen Inhalten insofern zu schützen, dass sie nicht so leicht die Irre geführt werden.

00:04:06: Und wenn man so rum drauf schaut kann man sich es ganz gut erklären was jetzt gekennzeichnet werden soll und was nicht.

00:04:12: also muss ich eigentlich immer nur die Frage stellen könnte dieser Inhalt sei es ein Text sei es eine Audio-Stück Tonspur oder Video oder Bild jemanden in die Irreführen in irgendeiner Form?

00:04:24: Also wenn jemand dieses bei einem Text weil du das angesprochen hast einen Pressetext erhält und der ist komplett von KI geschrieben dann möchte die EU verhindern, dass jemand diesen Text liest.

00:04:34: Ohne das der Person dabei klar ist, dass dieser Text nicht von einem Menschen erstellt wurde oder dass da ein Mensch nicht die Hoheit über den Inhalt hat sondern die KI.

00:04:44: und das beantwortet dann eben die Frage wenn die KI den Text komplett erstellt?

00:04:49: Dann muss er gekennzeichnet sein.

00:04:51: Wenn die KI zum Beispiel bei der Recherche geholfen hat was ja jeder mittlerweile nutzt egal ob Perplexity oder Chachivity geht

00:04:57: davon aus ...

00:05:00: und diese Recherche einfach irgendeinerweise aufbereitet wird.

00:05:02: Und man halt sagt, ich schreibe jetzt einen Text zum Thema EU-Verordnung... ...und ich brauche da ein paar Infos.

00:05:09: Wenn ich den aber am Ende selber schrei be oder auch nur den Draft von der KI ordentlich überarbeite?

00:05:15: Da ist es dann nicht so hundertprozentig klar.

00:05:17: Ja genau!

00:05:19: Dann muss ich ihn nicht kennzeichen.

00:05:20: also wenn am Ende der verantwortliche redakteur dahinter ein mensch ist dann muss ich den text nicht kennzeichnen.

00:05:28: wenn denen die komplette diki komplett geschrieben hat dann eben schon

00:05:32: was wir im besten fall nicht eins zu eins übernehmen sollten alles noch mal natürlich von menschlicher hand auch prüfen sollten.

00:05:42: es hat ja auch so ein paar floskeln drin die dann wieder einfluss auf zum beispiel geo haben oder auch auf die ausspielung von inhalten.

00:05:50: Ich denke, gerade in unserer Kommunikationsbubble haben wir da ja schon eine recht große Awareness dafür.

00:05:55: Welche Inhalte ich davon wirklich verwenden kann und wo ich noch mehr drüber gehen sollte?

00:06:00: Also bei Texten ist es simpel wenn ich als Mensch da ordentlich daran gearbeitet habe also umgeschrieben hab... Ja!

00:06:07: ...ich kann natürlich mal einen Halbsatz mir eins zu eins übernehmen

00:06:10: damit

00:06:11: führe ich niemanden in die Irre.

00:06:12: Ja

00:06:12: oder man braucht mal irgendwie so ein anderen Gedanken anstoßen, meine andere Formulierung weil's sonst immer das gleiche ist und sich immer wiederholt.

00:06:19: Genau Da ist es legitim, dafür ist dieses Tool oder auch sich den ersten Draft zu machen.

00:06:25: Ich habe so Gedanken in die Richtung und in diese Richtung ich weiß noch nicht wie ich strukturiere, mache mir einen Vorschlag.

00:06:30: Da ist KI ein fantastisches Tool und das kann ich dann auch nutzen.

00:06:34: was ich halt nicht machen darf hier sind drei Bullet Points.

00:06:36: schreibt mir bitte ein Artikel mit fünfhundert Wörtern und dem Copy Paste ich dann dann machen.

00:06:40: aber da muss ich's halt kennzeigen weil dann ist KI erstellt.

00:06:45: Wir haben jetzt auch gerade schon so ein bisschen gemerkt, es herrschen dann doch noch Verwirrungen.

00:06:49: Wir haben uns ja auch die letzten Wochen intensiv damit beschäftigt und haben auch festgestellt zum Beispiel bei dem Begriff Deep Fake dass wir eigentlich ein anderes Verständnis von hatten.

00:06:59: Ja also ich hab mich da so ein bißchen auch belehren lassen von Team.

00:07:03: Ich persönlich hatte mit Deep Fake eigentlich wirklich die ganz bewusste Irreführung im Kopf.

00:07:08: Ich kannte das so aus eher Schmuddelecken Ja, denn auch noch bevor JetGPT da war gab es den Begriff schon wenn halt Bilder und Videos manipuliert wurden um Personen in Situationen zu zeigen in denen sie nie waren.

00:07:22: Und der Begriff scheint aber jetzt breiter genutzt zu werden.

00:07:26: wir haben's auch in unserem Leitfaden zur Kenntzeichnungspflicht die wir veröffentlicht haben ja auch dann DeepFake genannt weil das so der begriff zu sein scheint sehr breit eben verwendet wird und der dann eigentlich sämtliche KI erstellten Bild Bild-Tonmaterialien bezeichnet.

00:07:44: Ja, kann man sagen das ist also der neutralere Begriff und vielleicht verändert sich da einfach auch die Bedeutung dieses Begriffs gerade so ein bisschen?

00:07:53: Also ich kann mir gut vorstellen dass jetzt wo es dann wirklich auch in Kraft tritt dieser Step, dieser Schritt, dass sich da auch trotzdem in Zukunft noch was ändern wird, dass man dann vielleicht auch feststellt okay man muss andere Sachen nochmal neu definieren, nochmal genauer definieren weil... ... sind schon noch einige Punkte dabei, wo man sich dann irgendwie unsicher ist.

00:08:14: So auch bei der Bild-Retusche so in... Wie weit ist es Rettusche?

00:08:19: Inwieweit habe ich's dann schon soweit verändert, dass ich es kennzeichnen muss?

00:08:23: also diese Grenzen sind für uns alle irgendwie nicht ganz klar und ich hoffe das da auch einfach in Zukunft auch von der Regierung noch irgendwie Updates genauere Definitionen Anleitungen wie auch immer kommen weil die Grenzen sehr stark

00:08:39: verschwommen.

00:08:41: Ich find's nicht so dramatisch, weil ich aber natürlich auch relativ nah an der ganzen Thematik dran bin und verstehen kann dass es einfach auch Nutzungsszenarien gibt wo man jetzt vielleicht eben aus EU-Sicht sagt das wissen wir jetzt gerade noch gar nicht hundertprozentig wie wir es definieren müssen.

00:08:55: Und Teile dieser Verordnung sind einfach auch noch nicht definiert und genauso veröffentlicht worden ist.

00:08:59: Das wird sich in den nächsten Wochen und Monaten noch zeigen.

00:09:01: da wirds noch genauere Definitionen geben.

00:09:04: bei du grade Bilder angesprochen hast da gilt Ähnlich, also wenn man jetzt mit diesem Ansatz rangeht kann ich immer den Irre führen dann gilt da das gleiche.

00:09:11: Wenn ich ein Bild nehmen was irgendwie bei einem Fotoshooting entstanden ist ganz real echte Personen drauf und ich nutze KI und sage mach mal hier den Himmel irgendwie mehr rosa statt tiefblau Dann ist es eine kosmetische Veränderung des Bildes und muss nicht zwingend markiert werden Wenn ich das Bild komplett KI erstelle, oder maßgeblich verändere.

00:09:32: Also wenn ich die Menschen... ...wenn ich die Hautfarbe der Menschen veränderne?

00:09:35: Oder die irgendwie kleiner größer macht sonst wie?

00:09:38: Oder ganz... ...oder komplett fiktive Menschen daneben stellen?

00:09:41: Dann muss sich es eben schon kennzeichnen weil ich halt dann maßgeblich in die Aussage dieses Bildes eingreife ob da jetzt die Sonne ein bisschen weiter unten ist oder nicht.

00:09:50: Das ist halt verändert jetzt den grundsätzlichen Sinn des Bildes wahrscheinlich wahnsinnig.

00:09:54: Ja weniger!

00:09:55: Aber selbst da könnte man, wenn man spitzfindig ist, darüber diskutieren.

00:09:58: Ja, da bin ich echt gespannt wo es auch so in der Zukunft dann hingeht.

00:10:03: Ob man dann vielleicht nur noch KI-Info Labels findet weil wir vielleicht eher zu vorsichtig sind und lieber einen Schritt früher schon das Label drauf machen?

00:10:15: Da bin ich wirklich gespannt was jetzt dann in den nächsten Wochen passiert auch was man einfach so öffentlich einsehen kann von Artikeln über Bilder auf Social Media In den Nachrichten.

00:10:27: Ja, ein gutes Beispiel gab es ja auch schon Fälle wo eben KI-Inhalte in deutschen Nachrichtensendungen im öffentlichen Rettlichen nicht gekennzeichnet waren oder nicht quasi disclosed wurden und dann gab's da auch richtig Probleme.

00:10:41: Grundsätzlich meine Prognose ist ein bisschen die.

00:10:43: also wir haben das jetzt allen unseren Kunden mitgeteilt diesen Leitfaden geteilt wir posten den auf LinkedIn Wir haben den auch per Newsletter verschickt machen andere auch das ist ja wir haben uns die Regeln ja nicht ausgedacht Aber wir haben es halt versucht, in dem Leitfaden so simpel wie möglich zu erklären.

00:10:58: Uns da nicht in irgendwelchen Grauzonen-Diskussionen zu verstricken und am Ende ist das Takeaway.

00:11:04: im Zweifel mache ich lieber eine Markierung drauf bevor ich mich dann vielleicht sogar irgendwelche Strafen aussetze.

00:11:10: denn die so typische EU wenn Strafe dann drastisch also... Da kann's in die Millionen gehen.

00:11:17: Es erinnert mich stark ein bisschen an die Situation von vor acht Jahren bei der DSGVO Als die eingeführt wurde europaweit, das haben ganz viele bis zum letzten Tag verdrängt.

00:11:28: Dann war das Zeug in Kraft dann haben es manche ignoriert und manche sehr, sehr ernst genommen.

00:11:33: Und irgendwann nach ein paar Monaten gab's dann die ersten Fälle wo tatsächlich deswegen Strafen ausgesprochen wurden und dann war allen klar okay das hat Konsequenzen.

00:11:39: ich musste jetzt aufachten Ich muss damit jetzt vernünftig umgehen... ...und dann geht es so in den allgemeinen Urus über und das wird hier eh nicht sein

00:11:49: Wenn du jetzt so den Unternehmen und auch Agenturen, Kommunikationsabteilungen für die nächsten Wochen einen Rat abschließend mitgeben würdest.

00:11:57: Welche Prozesse sollten Sie sich anschauen oder was sollten sie jetzt die nächsten wochen besonders beachten?

00:12:05: Also ich sage es mal für Unternehmen Es ist eine gute Gelegenheit nochmal die Prozese überhaupt zu hinterfragen Und auch die Teams zu fragen Wo nutzt der KI?

00:12:12: Weil es ist ja oft so, dass das so nebenbei passiert.

00:12:13: Manche machen's, manche machen weniger und dass man das noch mal zum Anlass nimmt, das rauszuarbeiten... ...und dann einfach auch einen ganz klaren Prozess etabliert.

00:12:21: Im Zweifel würde ich sagen, klar, das nicht.

00:12:24: lieber ein bisschen zu vorsichtig zu sein erstmal.

00:12:27: Es geht ja hier drum, da sich ein kleines Eiken-Einbau bei Bildern oder dass ich eben beim Text irgendwo einen Disclaimer drunter drüber setzte.

00:12:34: Das muss leicht zu erkennen sein.

00:12:35: imsofern lieber wenn ich vorsichtig bin, lieber.

00:12:37: darüber hat man aber auch heutzutage schon, selbst Nachrichtenmedien sagen zum Teil schon bei der Erstellung dieses Inhalts wurde KI genutzt und damit ist dann diese Aufklärungspflicht auch, der ist dann auch Genüge getan.

00:12:49: Also ich würde den Tipp geben lieber ein bisschen zu vorsichtig sein und aber dies jetzt als guten Anlass nutzen.

00:12:55: nochmals hinterfragen wo nutzen wir es eigentlich?

00:12:58: Wer nutzt KI?

00:12:59: und allen bewusst machen dass diese Regelungen jetzt gilt und die im Zweifel über was markiert oder hervorgehoben werden muss als KI generiert bevor man's dann unterlässt sich dann irgendwelchen Strafen aussetzt.

00:13:10: Das wollen wir alle nicht, vor allem weil es dann eben wie du schon meintest richtig teuer werden

00:13:14: kann.

00:13:14: Theoretisch kann das sehr, sehr teuer sein ja?

00:13:16: Ja!

00:13:16: Dann danke dir für die Zusammenfassung und für die Einordnung.

00:13:20: ich gehe davon aus dass da in den nächsten Wochen und Monaten sich auch noch mal einiges tun wird und würde sagen wir machen dann auch nochmal ein Update eine Updatefolge dazu sobald sich da was getan hat.

00:13:29: Vielleicht gibt's ja irgendwann Fälle über die man diskutieren kann.

00:13:31: vielleicht können wir von Fällen berichten und dann würde ich sagen Danke Daniel und wir sehen uns in der nächsten Folge.

00:13:38: Danke dir.

00:13:38: Sehr gerne!