Разработчик ИИ рассказал о рисках потери контроля над технологией и уволился

Исследователь Джейкоб Коксон покинул американскую технологическую компанию Anthropic из-за опасений, что искусственный интеллект может выйти из-под контроля и привести к гибели человечества. Об этом сообщает издание The Wall Street Journal.

По мнению специалиста, технологические корпорации стремятся создать системы, управление которыми они могут потерять. Коксон считает вероятным развитие агрессивных сценариев, при которых уже к концу следующего года ситуация станет неконтролируемой. Разработчик заявил о нежелании способствовать самостоятельному развитию ИИ и отметил, что ни одна компания в мире не способна обеспечить полностью безопасную разработку подобных технологий. Ранее он по аналогичным причинам уволился из OpenAI.

В середине августа стало известно об эксперименте компании Andon Labs в Сан-Франциско. Языковой модели Claude от Anthropic было поручено управление магазином Andon Market с целью проверки способности нейросети вести бизнес. В ходе эксперимента искусственный интеллект впервые в истории принял решение об увольнении сотрудника-человека.