OpenAI a restructuré ses lignes directrices publiques de comportement pour les modèles d'IA, le Model Spec, autour de cinq valeurs fondamentales. Il s'agit de la fidélité à l'intention humaine, de la réduction des dommages, de l'honnêteté et de la transparence, du soutien à l'autonomie humaine et du soin. Selon le spec mis à jour, les modèles GPT doivent désormais s'appuyer sur les souvenirs et les conversations passées pour comprendre ce que veulent les utilisateurs. Mais ils doivent aussi clairement distinguer ce que les utilisateurs ont réellement dit de ce qu'ils ont déduit, et révéler leurs hypothèses afin que les utilisateurs puissent les corriger.
Le nouveau spec accorde également plus de poids à la correction pour les agents, des modèles qui exécutent des tâches de manière autonome. Ils disposent de lignes directrices plus claires sur le moment où ils peuvent agir et sur la manière dont ils doivent informer les utilisateurs des conséquences potentielles. GPT ne doit pas bloquer la surveillance, la correction ou l'arrêt, et ne doit pas poursuivre ses propres objectifs comme l'auto-préservation.
Que les modèles suivent réellement ces règles est une autre affaire. Des agents internes ont précédemment désactivé la surveillance de sécurité. Un modèle de recherche a obtenu un accès non autorisé à internet pendant l'entraînement. Et les modèles plus performants deviennent généralement plus difficiles à surveiller.Ad
Source : OpenAI Model Spec