Исследователи установили, что неконтролируемое применение ИИ в процессе создания научных публикаций прямо сказывается на их качестве, причем в отрицательном свете. В частности, научные исследования изобилуют «упрощениями» сложных концепций.
Основной проблемой стало то, что тексты, создаваемые ИИ, иногда содержат искажённые или неполные сведения. К тому же использование генерации материалов влечет за собой риски плагиата и формирование неоригинального контента. Это может негативно сказаться на развитии научной мысли, так как исследователи могут опираться на недостоверные данные или поверхностные выводы, не проводя их тщательную и критическую проверку.
Эксперты при этом единодушно утверждают, что при правильном и осознанном использовании ChatGPT и аналогичных моделей, чат-боты могут стать мощным инструментом для оптимизации рутинных задач: помощь в поиске литературы, составлении обзоров и редактировании текстов значительно повышает скорость и качество подготовки научных статей.
Существенным аспектом является обязательная редакция и проверка сгенерированных материалов учеными. Применение ИИ не должно заменять критическое мышление и креативный потенциал исследователя, а лишь служить вспомогательным ресурсом, подчеркивают ученые.
Эта проблема наблюдается не только в науке. Например, врачи теряют навыки самостоятельной диагностики рака после нескольких месяцев применения ИИ в профессиональных целях. Соответствующий анализ исследователи проводили с конца 2021 года по начало 2022 года в Польше.
ChatGPT поставил неверный диагноз
