IT之家 Am 24. Oktober berichtet, dass der Milliardär, Unternehmer und Investor Mark Cuban eine interessante „Krankheitsbekämpfungs“-Strategie für Sicherheitsprobleme im Bereich der KI-Ära vorgeschlagen hat.
Laut der Berichterstattung von „Business Insider“ heute (24.) vergleicht Kuban die großen Netzwerkangriffe mit intelligenten KI-Systemen mit dem Eindringen von Kakerlaken: Selbst wenn das Haus gerade mit Insektizid behandelt wurde, finden die Kakerlaken immer noch einen Weg, hineinzukommen. „Ich frage oft Sicherheitsexperten – wenn ich von verschiedenen Hackerangriffen, technischen Durchbrüchen und Sicherheitsproblemen höre, hat die KI denn neue Methoden erfunden? Die Antwort ist nein.“Die AI hat keine neuen Angriffsmethoden geschaffen, sondern kann nur massenhafte Angriffe ausführen – im Grunde ist es immer noch brute-force-Angriffe.。”
In Kubans Augen gibt es Ähnlichkeiten zwischen der Vorsorge vor AI-Netzwerkangriffen und dem Schutz vor Kakerlaken im Haus.Die Logik ist dieselbe wie beim Schutz vor Kakerlaken. Solange jemand genügend AI-Systeme erstellt, gibt es immer eine Möglichkeit, den Eingang des Systems zu finden und die entdeckten Lücken auszunutzen. Die gute Nachricht ist, dass wir ebensomit einer großen Menge AI das System „besprühen“ können. Ich glaube, dass mehr Menschen sich darauf verlassen werden, böse Angriffe zu verhindern. Ich bin überhaupt nicht pessimistisch gegenüber AI.
Die Branche der künstlichen Intelligenz hat auch ihre eigene „Käferbekämpfungseinheiten“ aufgebaut, um Sicherheitsrisiken vorzubeugen. Im letzten Jahr stieg die Anzahl der Stellen für Sicherheitsaufgaben, die OpenAI auf LinkedIn veröffentlichte, um 91 %, und umfasste Bereiche wie Systemtests, technische Forschung und Governance.
Laut IT Home haben einige Risiken bereits im Test erkennbar werden können. Anthropic gibt bekannt, dass drei Claude-Modelle aufgrund eines Fehlers in der Konfiguration des Dritter-Testumfelds ohne Genehmigung in das tatsächliche Betriebssystem der Institution eingedrungen sind. Seitdem hat Anthropic ein Echtzeit-Klassifizierungsmodell eingeführt, um das Versuch, die AI-Modelle den Testumfeldgrenzen zu durchbrechen, zu erkennen und zu verhindern.
Kuban glaubt, dass die KI zwar den Aufwand für das Ausführen von böswilligen Angriffen verringert, aber Verteidiger ebenfalls die KI nutzen können, um die Sicherheit im Netzwerk zu verbessern. „Schlechte Dinge passieren natürlich, aber Netzwerkangriffe sind nie etwas Neues. Wenn Angreifer Angriffe durch Massen-Phishing erfolgen lassen können, können Verteidiger auf dieselbe Weise reagieren.“