Американская компания Anthropic, известная разработкой чат-бота Claude, обнародовала информацию о возможном использовании её моделей искусственного интеллекта в исследованиях, которые могут иметь связь с созданием биологического оружия. В отчете компании отмечены пять зафиксированных случаев, о которых сигнализировали её системы безопасности, передает ТАСС.
В частности, Anthropic получила данные, свидетельствующие о том, что исследователи пытались задействовать способности нейросети для планирования экспериментов, направленных на усиление функции вируса чикунгунья, адаптацию вируса птичьего гриппа к организму млекопитающих, подготовки заявки на грант, касающейся преодоления иммунной защиты вирусами рода ортопоксвирусов, вызывающими оспу.
Кроме этого, некоторые «государственно поддерживаемые» исследователи использовали нейросеть для создания базы данных пептидов ядов и разработки «автоматизированного процесса» для улучшения молекулярной структуры ядов, повышая их эффективность в вызываемом параличе или блокировке нервных сигналов. В одном из случаев человек использовал моделирование для перепроектирования токсинов в рамках некой национальной программы.
После выявления угроз специалисты Anthropic заблокировали учётные записи пользователей. Однако компания не стала раскрывать, из каких стран приходились эти учёные или к каким научным учреждениям они относились. В отчете подчеркивается, что компания не пытается утверждать, что исследователи намеревались нанести вред, и понимает, что публикация данных об учёных или их лабораториях может представлять для них угрозу.
Злоупотребление инструментами ИИ в работе с биологическими материалами оценивается как один из самых серьёзных рисков, связанных с передовыми моделями ИИ. В отсутствие должных мер безопасности такие способности ИИ могут привести к катастрофическим последствиям, говорится в докладе.
Компания Anthropic, основанная в 2021 году бывшими сотрудниками OpenAI, быстро завоевала позиции одного из лидеров в области разработки систем искусственного интеллекта. Она известна как разработчик «этичного ИИ» и уделяет особое внимание вопросам безопасности использования нейронных сетей. С марта 2023 года Anthropic выпустила свой первый чат-бот Claude.
