Google prévoit le sommet de la biodefense au milieu des préoccupations croissantes concernant la puissance biologique de l'IA

Google organisera un sommet biodéfense en juillet, visant à traiter les risques croissants liés aux systèmes d'IA avancés en biologie. La société a annoncé l'événement dans le cadre d'un effort plus important pour devancer les menaces à double usage tout en accélérant les progrès scientifiques.

Des outils d'IA comme les Gémeaux aident déjà les chercheurs à cribler les candidats médicamenteux et à modéliser les interactions protéiques. Mais à mesure que ces systèmes s'améliorent, il en va de même pour le potentiel d'utilisation abusive. Les mêmes outils qui rationalisent la conception des vaccins ou la production d'enzymes pourraient aider les mauvais acteurs à reproduire les agents biologiques dangereux. Google ne veut pas attendre que ce scénario se déroule.

Pour réduire ce risque, l'entreprise gère désormais des systèmes de détection sur tous les modèles Frontier. Ces systèmes bloquent les demandes dangereuses en temps réel et déclenchent des avis de suivi. Les équipes forment également les modèles pour éviter les réponses détaillées pour des sujets sensibles comme le génie génétique ou la virologie.

Red Teamers - Experts internes et externes - Stress teste le système, essayant de trouver des fissures avant quelqu'un d'autre. Ces groupes associent les experts en sécurité des IA avec des biologistes pour fermer les angles morts des deux côtés.

Autres nouvelles récentes de Google -

Le plan de Google ne s'arrête pas dans les modèles de formation pour refuser des invites à risque. Il comprend des contrôles sur l'accès au modèle, le durcissement des infrastructures et l'application stricte des politiques. Les utilisateurs à haut risque sont confrontés à une suspension de compte ou même à une escalade légale en cas de besoin.

La société a construit son cadre de préparation pour mesurer lorsqu'un modèle se transforme en territoire à haute capacité. Il publie des cartes système pour partager comment les modèles fonctionnent pendant les tests - mais sautent des détails qui pourraient aider les attaquants. Google a déjà appliqué des parties de ce cadre à des modèles actuels comme O3 et prévoit davantage à mesure que les modèles plus récents déploient.

Le sommet réunira les gouvernements, les chercheurs et les ONG pour explorer des moyens sûrs d'utiliser l'IA dans les sciences de la vie. Les sujets comprendront des contre-mesures, des diagnostics et comment éviter les pires scénarios. Google espère que les alliances publiques-privées plus fortes peuvent stimuler la préparation avant que les risques dépassent les défenses.

La société affirme que son plan à long terme comprend l'aide aux institutions vérifiées à accéder avancéesIAOutils dans des politiques strictes - en particulier pour les cas d'utilisation de la biotechnologie. Il soutient également les règles de l'industrie plus fortes, telles que un meilleur dépistage des ordres de l'ADN synthétique et une détection d'épidémie plus rapide.

Vous pouvez également être intéressé à lire -

Voir aussi: