IT之家 Am 20. Oktober berichtete die Reuters, dass Vertreter von OpenAI und Meta bei einer Sitzung des Ausschusses für Beweisregeln im US-Justizausschuss am 15. dieses Monats in lokaler Zeit entschieden haben, dass künstliche Intelligenz-getriebene Deepfake-Techniken die Glaubwürdigkeit der Beweise in Gerichtsverfahren ernsthaft bedrohen.
Shira Anderson, politischer Berater von OpenAI, sagte:
Die Qualität der von KI generierten Bilder wird ständig besser, und ich glaube, dass es in Zukunft nicht mehr möglich sein wird, sie mit wissenschaftlichen Methoden zu erkennen.
Devin Norder, Director für Produktmanagement bei Meta, sagte:
Menschen können nicht mehr unterscheiden zwischen echten Medien und den Medien, die von AI-Modellen der letzten Generationen erstellt werden. Derzeit sind die Kosten und die Zeit, die für die Erstellung solcher Medien benötigt werden, wirklich sehr gering.
Experten warnen, dass die Schwierigkeit für Gerichte, falsche Beweise erstellt durch Künstliche Intelligenz abzuwehren, immer größer wird. Derzeit haben mehrere KI-Unternehmen sichtbare oder unsichtbare Wasserzeichen auf von KI erstellte Medien hinzugefügt, aber es gibt bisher keine allgemeine Methode, diese Wasserzeichen zu erkennen.
Allerdings ist Deepfake in der Praxis im Justizwesen noch selten: In einer Untersuchung mit 931 amerikanischen Richtern gab es nur 15 Richter, die mit der Überprüfung der Glaubwürdigkeit von Beweisen im Zusammenhang mit Deepfake-Verdachtsmomenten konfrontiert waren.