Мустафа Сулейман, руководитель ИИ-подразделения Microsoft, объявил во время конференции Paley International Council Summit о том, что компания прекратила развитие систем ИИ, предназначенных для эротического контента. В Microsoft считают, что такое направление в разработке ИИ является опасным и недопустимым.
Сулейман ранее подчеркивал, что «разработчики в Microsoft должны создавать ИИ для людей, а не как людей», а также предостерегал о том, что создание «кажущихся сознательными» машин может вызвать новую волну раскола в обществе. В противном случае пользователи могут потребовать признать ИИ «моральным субъектом, чьи права должны защищаться законом», что приведет к «юридическому и этическому хаосу», по мнению Сулеймана.
Он также выразил мнение, что с появлением «сознательного ИИ» могут увеличиться случаи психозов и ментальных расстройств. По его словам, попытки наделить ИИ чертами личности, особенно в эротическом контексте, являются тревожным сигналом.
«Мы уже наблюдаем, как некоторые компании движутся в сторону секс-роботов и эротических аватаров. Это крайне рискованное направление, и нам необходимо сознательно избегать подобных решений», – подытожил Сулейман. Он также подчеркнул важность установления четких и определенных критериев для понимания, что подразумевается под «сознанием ИИ».
В то же время глава OpenAI Сэм Альтман ранее сообщил о предстоящих изменениях в работе ChatGPT, включая эротический контент в общении пользователей с чат-ботом. Обновления станут доступны еще до конца текущего года.
Microsoft представила анимированного ИИ-помощника
