Компания Anthropic предотвратила несколько возможных попыток использования ее ИИ-моделей для проведения исследований, которые могли помочь в разработке биологического оружия. Об этом пишет The New York Times.
В отчете о неправомерном использовании технологий компания указала, что заблокировала исследователей и институты, которые пытались обходить защитные механизмы для проведения экспериментов двойного назначения. В одном из зафиксированных случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности.
Anthropic — американская технологическая компания в сфере искусственного интеллекта, создавшая семейство языковых моделей Claude.
До этого исследователь из компании Anthropic Джейкоб Коксон ушел из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата».