IT之家 Am 17. Oktober berichtete die Reuters, dass Demis Hassabis, Mitbegründer und Vorsitzender von Google DeepMind, am Mittwoch sagte, dass die jüngsten Angriffe durch KI-Systeme „Warnzeichen“ seien. Wenn die Sicherheit der Systeme nicht weiter verbessert wird, könnte die Welt bald mit ernsthaften Cyberangriffen konfrontiert werden.
Hassabis, der auch als Leiter der Wissenschaftlichen Abteilung bei Alphabet, dem Mutterkonzern von Google, tätig ist, sagte auf einem KI-Gipfel in Dublin: „Ich glaube, dass diese Angriffe für uns eine Warnung vor der Zukunft sind.Das aktuelle System ist noch nicht stark genug, daher sind die Schäden begrenzt.
Aber in einer Zukunft von einem bis zwei Jahren, wenn die gesamte Industrie, die Unternehmen und die Regierungen der Länder nicht mehr viel in die Schutz dieser Systeme investieren, ist es sehr wahrscheinlich, dass es zu katastrophalen Ereignissen kommen wird.
IT Home hat bemerkt, dass Brad Smith, der Präsident von Microsoft, auf der Konferenz sagte, dass das unkontrollierte Verhalten von KI das Jahr 2026 zu einem „warnenden Jahr“ macht. Es ist dringend notwendig, neue Gesetze und Regeln für die Sicherheit von KI zu erlassen, damit die Sicherheitsmaßnahmen mit den Innovationen Schritt halten können.
Smith betonte: „Es gibt keine Unternehmung oder Technologie, die über das Gesetz steht. Aber wir brauchen Gesetze und Regulierung. Diese Regulierung sollte vernünftig und ausgewogen sein und die Innovation berücksichtigen. Ehrlich gesagt ist die Ablehnung durch bestimmte Personen in der Branche gegenüber Regulierung, die sie als Bedrohung empfinden, ein Hindernis, das wir überwinden müssen.“
Hassabis fügte hinzu, dass es zwar logisch erscheint, internationale Standardsinstanzen zu gründen, diese Mechanismen jedoch flexibel und reaktiv sein müssen, um Innovationen nicht zu unterdrücken.
Daher liegt der Kern darin, ein dynamisches Zertifizierungsmechanismus zu entwickeln – einer, der genau mit dem erwarteten Risikoniveau übereinstimmt und schnell an die technischen Entwicklungen angepasst werden kann.