Компания Anthropic выпустила отчет о прекращении активности пяти аккаунтов, которые были непосредственно уличены в использовании уязвимостей в работе с ИИ для создания биологического оружия. На самом деле речь идет о сотнях, но вряд ли о тысячах. В мире не так много квалифицированных биохимиков, способных замаскировать взаимодействие с ИИ под нейтральные цели. И это является основной проблемой.
В Anthropic поступили честно – они отметили, что не могут полностью запретить или ограничить использование ИИ в исследованиях и разработках, связанных с медициной и биохимией. Это связано с тем, что четкая граница между «мы создаем лекарство» и «мы усугубляем болезнь» провести практически невозможно. Иногда требуется первое, а иногда и второе – например, для борьбы с паразитами. Это не оправдание, а простое констатирование факта.
В текущей ситуации опасность была замечена не на научной основе, а по административным признакам. Тем не менее, существуют некоторые механизмы ограничения в работе ИИ, и нарушителей обнаружили именно при попытке их обойти. Помогло то, что существуют региональные запреты, которые преступники и пытались обойти, что и привело к их задержанию. Невольно возникает вопрос: сколько еще не поймали? Одно дело заблокировать аккаунт, связанный с военным институтом, который прямо интересуется вопросами, касающимися скорости синтеза новых вирусных штаммов. Но как выявить «тихого аспиранта», который просто перепроверяет свою научную работу?
В Anthropic также сообщили о повышении мер безопасности и ограничении доступа к своим моделям при работе с широким спектром биологических запросов двойного назначения. Официальная причина – рост хакерских атак из России. На самом деле речь идет о том, что некие группы с недоказанным происхождением целенаправленно «тестируют» механизмы защиты ИИ и на ходу разрабатывают новые способы их обхода. Интересно, что все это выполняется также с помощью ИИ. А вот кто и почему это делает, включая создание биологического оружия и чего-то более ужасного, пока что остается неизвестным.
