Глава Anthropic предложил три шага к международным стандартам ИИ

Директор Anthropic Дарио Амодеи призвал разработать международные стандарты безопасности искусственного интеллекта. Свою позицию он изложил на заседании Совета Безопасности ООН.

По его мнению, работу следует начать с отдельных соглашений по наиболее опасным сценариям применения технологии. В качестве примера Амодеи назвал запрет на использование ИИ для создания биологического оружия.

Следующими мерами он считает запуск систем проверки, которые будут успевать за развитием моделей, и введение общих правил их тестирования. Такие процедуры должны оценивать риск потери контроля над ИИ и его незаконного использования. Кроме того, глава Anthropic предложил создать международный механизм уведомления об инцидентах. Угрозы, связанные с искусственным интеллектом, он назвал важнейшей проблемой глобальной безопасности.