Am 2. November fand das Plenum des AI-Committee der Weltinternetkonferenz 2026 sowie die dritte Sitzung des Vorsitzendenausschusses in Wuzhen, Zhejiang, statt. Pan Jianfeng, Chefwissenschaftler und leitender Vice-Vorsitzender von 360 Group, nahm als Vizepräsident des AI-Committee an der Veranstaltung teil. Der vorgeschlagene Entwurf des Jahresplanungsprogramms für 2027, das im Meeting diskutiert wurde, besagt, dass der Plan zur Förderung von Sicherheit und Governance in den Spezialkomitees noch stärker auf „sicher und kontrollierbare KI-Systeme und koordinierte Governance“ ausgerichtet wird. Dadurch soll die AI-Sicherheitsgovernance weiterhin auf die Kontrolle des Verhaltens von KI-Systemen, die Entwicklung der Governance-Fähigkeiten und Mechanismen für globale Governance ausgeweitet werden. Als Mitglied des Spezialkomitees verstärkt 360 durch seine kontinuierlichen Forschungen und Praxisaktivitäten im Bereich der KI-Sicherheit diese Richtung.
Szenario: Konferenz des Spezialkomitees für künstliche Intelligenz
Mit der Entwicklung von KI, die von Inhaltsgenerierung zu autonomen Ausführungen übergeht, beginnen Intelligenzsysteme, Tools zu nutzen, Daten zu abrufen und Aufgaben selbstständig zu erledigen. Die Sicherheitsrisiken erstrecken sich somit auch auf die Bereiche Berechtigungsverwaltung und Verhaltenskontrolle. Im Zusammenhang mit diesen Veränderungen plant das Spezialkomitee im Jahr 2027 spezifische Diskussionen und gemeinsame Forschungen in den Bereichen Berechtigungsverwaltung für Intelligenzsysteme, autonome Entscheidungen und menschliche Kontrolle, Sicherheit bei der Zusammenarbeit mehrerer Intelligenzsysteme sowie ganzzyklische Sicherheitsmanagement.
Um diese Themen herum ist 360 kontinuierlich an den relevanten Aktivitäten des Spezialausschusses beteiligt. Im Jahr 2026 führten die Mitglieder des Spezialausschusses das Sicherheits- und Governance-Programm des Ausschusses in Mitgliedsunternehmen wie Huawei, 360 Group, Alibaba Cloud Intelligence Group und Baidu durch. Im Juli hielt Pan Jianfeng eine Hauptrede auf der von dem Spezialausschuss veranstalteten Konferenz zum Thema „Koordinierte Governance der Sicherheitsrisiken im Bereich fortschrittlicher Künstliche Intelligenz“. Diese Kommunikation und Forschung basiert ebenfalls auf der langjährigen technischen Praxis von 360.
Für die Sicherheit von KI-Agenten verfolgt 360 das Schutzkonzept „Modell nach Modell, Agent gegen Agent“ und bringt das 360-KI-Agentensicherheits- und -Management-System heraus. Dieses System umfasst wichtige Aspekte wie die Entdeckung von KI-Assets, Verhaltenskontrolle, Bedrohungserkennung, Ereignisreaktion und Schadensbehebung. Es ermöglicht die Identifizierung und Verwaltung von KI-Agenten, Fähigkeitsplugins und Modellketten sowie die Einhaltung von Aktivitäten wie Dateizugriff, Netzwerkverbindungen und Befehlsausführung während des Betriebs. Dadurch können Unternehmen den Betrieb von KI-Agenten in die Sicherheitsverwaltung integrieren.
Es wird berichtet, dass die Sicherheit von KI-Systemen nur ein Teil des 360 AI-Sicherheitssystems ist. Im breiteren Bereich der AI-Sicherheit hat 360 auch Schwerpunkte wie die Sicherheit großer Modelle und die Governance von AI-Anwendungen ausgerichtet. Dabei wurde das von 360 entwickelte AI-Sicherheitsangriffssystem „Tulongfeng“ durch die „Governance von Internet-KI-Systemen – Bewertung der Fähigkeiten von Lückenentdeckungs-KI-Systemen“ des China Institute of Communications und Information Technology zum ersten Produkt, das diese Bewertung besteht. Gleichzeitig ist 360 an der Entwicklung mehrerer nationaler und industrieller Standards für AI-Sicherheit beteiligt, wodurch ein vollständiges Leistungsangebot von Produkten bis zu Standards entsteht.
Mit der Entwicklung von Agenten von „Fähigkeiten, Fragen zu beantworten“, zu „Fähigkeiten, Aufgaben auszuführen“, geht die Sicherheitsverwaltung von AI von Prinzipiendiskussionen zu einer konkreten Verwaltung von Rechten, Verhalten und Ausführungsprozessen über. Der Schwerpunkt der Verwaltung verschiebt sich von „Inhalt verwalten“ zu „Verhalten verwalten“. 360 wird seine Erfahrungen im Bereich künstlicher Intelligenz und digitaler Sicherheit nutzen, um technische Wege zur sicheren Kontrolle von Agenten weiter zu erforschen und praktische Referenzen für die Industrieverwaltung zu liefern.
Leifengwang Leifengwang (Public Account: Leifengwang)