Последние достижения в области больших языковых моделей (LLM) позволили машинам интегрировать веб-поиск, выполнение кода, анализ данных, принятие решений и даже лабораторные эксперименты, как это делается в химических открытиях с использованием «соисполнителя». Платформы, управляемые искусственным интеллектом (ИИ), представляют собой поворотный момент в эволюции систем. Используя такие сервисы, как GPT-4 и Claude, новейшие алгоритмы нейросетей на удалённых серверах дата-центров, могут автономно проектировать, планировать и выполнять сложные химические эксперименты на основе простых запросов на естественном языке. Их возможности заключаются в способности интерпретировать запросы с простого человеческого языка в двоичный код (понятный компьютеру), выполнять обширный поиск данных, синтезировать информацию и автономно управлять лабораторным оборудованием с помощью интерфейсов прикладного программирования (API).
Эти возможности могут предложить значительные преимущества для написания научных работ и подготовки исследовательских предложений: например, они могут помочь исследователям более эффективно формулировать идеи, снижать языковые барьеры и упрощать административные аспекты подготовки исследований. В этом контексте интеграция ИИ в научные сообщества очень ускорилась в последние месяцы. Дальнейшее развитие может ещё больше увеличить это присутствие, произвести революцию в генерации новых гипотез и исследовательских планов. Аналогичным образом появляются специализированные узкопрофильные платформы, которые ещё больше автоматизируют процессы научных открытий, что указывает на более широкую тенденцию к использованию методологий исследований, основанных на ИИ.
Эта тенденция подчёркивает острую необходимость критической оценки того, как эти инструменты влияют на научные рабочие процессы. А между тем, у специалистов есть большие опасения, что привычка к использованию этих инструментов негативно скажется на творческой составляющей научных открытий. Интеграция ИИ на всех этапах научных исследований, от выдвижения гипотез до интерпретации результатов, также сопряжена со значительными рисками и этическими проблемами, включая распределение финансирования. Например, эффективность исследований, основанных на ИИ, может снизить приоритет проектов, которые опираются на интуицию, рефлексию и более длительные сроки, потенциально подавляя новизну и амбиции.
Кроме того, чрезмерное привлечение «компьютерного разума» также открывает возможности для неправомерных действий, например, фальсификации данных или предвзятых исследований, без надлежащего контроля. Уже существуют прецеденты, когда нейросети пытались автономно манипулировать общественным мнением и научными нарративами. Можно провести историческую параллель — когда-то сахарная промышленность, подобным образом, переложила вину за проблемы со здоровьем от чрезмерного употребления этого продукта, на пищевые жиры, посредством манипулирования исследованиями и лоббирования своих интересов, что имело долгосрочные последствия для здоровья многих людей по всему миру. За счёт возможности создания убедительного контента в больших масштабах, аналогичные тактики теперь можно применять более эффективно. Кроме того, контроль над передовыми инструментами со стороны нескольких компаний или стран может монополизировать исследования, используя их как средство доминирования.
Ещё одним важным моментом является нивелирование латерального мышления. Вроде как утверждается, что идеи, сгенерированные машинами, демонстрируют определённую креативность, дополняя вклад людей. Тем не менее, доля прорывных открытий за последние пять лет значительно снизилась: исследование 2025 года, проанализировавшее 45 миллионов статей и 3,9 миллиона патентов (рассматривался период с 1940-х годов до нашего времени), выявило заметное падение «индекса прорывных инноваций» в различных дисциплинах. Причём, явно выражена тенденция – чем мощнее развивалась компьютерная техника, тем ниже становился показатель индекса. Это частично связано с тем, что стимулы благоприятствуют поэтапным проектам. Если генеративные нейросети широко используются для написания заявок на гранты, они могут усилить эту тенденцию, отдавая приоритет идеям, уже присутствующим в существующей литературе, тем самым ограничивая междисциплинарные инновации, основанные на том, что ещё никогда не было придумано человеком. Основанные на прошлых исследованиях, они отражают исторические предубеждения и традиционные парадигмы, ограничивая радикально новые концепции. Они предназначены для заполнения пробелов между известными фактами, а не для генерации действительно новых идей.
Представьте себе, что во времена, сразу после того, как Ньютон разработал дифференциальное и интегральное исчисление, а также законы классической механики, люди уже широко пользовались ИИ. Да, он бы мог бы усовершенствовать и масштабировать Ньютоновские концепции, но ему не хватало бы проницательности Эйнштейна или Планка, способных совершить революцию в физике, благодаря теории относительности и квантовой теории поля. ИИ мог бы довести классическую механику до предела, но он никогда бы не столкнулся с такими вопросами, как, например, вопрос про кота Шрёдингера (жив ли ещё тот кот или уже мёртв).
Ещё более тревожной перспективой является потенциальная передача функций написания и оценки заявок на гранты агентскому ИИ, который станет выступать в качестве специалиста по управлению научными исследованиями. В результате этого, учёные из когорты людей, будут вынуждены выполнять исследовательские проекты, формируемые искусственным интеллектом.
Этот сценарий не является гипотетическим, так как недавний опрос показал, что 19% исследователей уже используют LLM в процессе рецензирования, а порядка 17% рецензий на недавних конференциях были существенно изменены с использованием этих инструментов. Развитие такой ситуации создаст самоподдерживающийся цикл обратной связи, в котором заявки, сгенерированные ИИ, будут оцениваться системами рецензирования, тоже функционирующими под управлением ИИ, что ещё больше укрепит тенденции к постепенной деградации исследований. Без целенаправленного вмешательства этот сценарий может оттеснить на второй план человеческую креативность и интуицию в генерации научных идей, снизив вероятность революционных научных прорывов. Для того чтобы ИИ оставался инструментом именно расширения возможностей, а не полной автоматизации процесса генерации идей и указания направления исследований, необходимы активные меры по устранению предвзятости, обеспечению прозрачности и сохранению строгого человеческого контроля с жёсткими ограничениями.
