ИИ-агенты в проверке научных результатов
За последний год агенты изменили само представление о программировании. Следующей может стать научно-исследовательская работа — от выдвижения новых гипотез и планирования экспериментов до открытия алгоритмов, превосходящих лучшие разработки человека.
Это ставит перед разработчиками государственной политики и организациями, финансирующими науку, неотложные вопросы. Главный из них — как проверять грядущую волну идей, созданных ИИ.
Новые подходы нужны и для того, чтобы учёные имели доступ к агентам, наборы данных были готовы к работе с ними, а система рецензирования выдержала растущую нагрузку.
Мы поговорили с десятью исследователями и инженерами Google DeepMind, чтобы попытаться понять, что произойдёт дальше.
Микробиолог Хосе Пенадес и его команда из Имперского колледжа Лондона потратили почти десять лет, выясняя, как одно семейство супербактерий распространяет устойчивость к антибиотикам. Результат ещё не был опубликован и оставался известен только сотрудникам лаборатории. В 2024 году Пенадес описал задачу Co-Scientist — ИИ-агенту Google DeepMind.
Через два дня Co-Scientist предложил пять возможных объяснений, расположив их по приоритету. Первым оказалась та самая гипотеза, которую команда Пенадеса так долго пыталась доказать: некоторые супербактерии получают от вирусов хвосты и используют их как «ключи», чтобы переходить от одного вида хозяев к другому. Поражённый учёный сначала решил, что его компьютер мог быть взломан, и написал в Google с просьбой всё проверить. Выяснилось, что система не подсматривала закрытые данные. Если бы Пенадес мог вернуться в прошлое, эта догадка сэкономила бы его команде годы.
ИИ-агент, подобный Co-Scientist, представляет собой систему на основе большой языковой модели (LLM), которой поставлена цель и предоставлены инструменты для её достижения. В отличие от чат-бота, отвечающего на вопросы, агент может спланировать достижение поставленной цели: разбить её на этапы, параллельно запустить несколько субагентов и процессов, а по ходу работы выявлять и исправлять ошибки. Он также способен взаимодействовать с внешним миром — например, обращаться к онлайн-базам и инструментам либо писать код для управления роботами.
Появление ИИ-агентов приходится как нельзя кстати. Исследователи сталкиваются с быстро растущим «бременем знаний»: прежде чем внести содержательный вклад, им приходится осваивать всё больший объём информации. Вопросы, имеющие значение для разработки лекарств, климатического моделирования, проектирования материалов и биологии, становятся слишком сложными и междисциплинарными, чтобы человеческие коллективы могли решать их достаточно быстро.
Наука отчасти зависит от постепенно сформировавшейся социальной инфраструктуры: лабораторий, коллективов, учреждений, рецензирования, грантового финансирования и сетей, обеспечивающих накопление общих знаний. Эпоха ИИ-агентов бросит вызов этой инфраструктуре и временами потребует стремительных изменений — некоторые из них, вероятно, давно назрели.
Нечто похожее уже происходит в разработке программного обеспечения. Всего за год агенты для программирования изменили методы работы инженеров. Теперь ИИ-агенты начинают менять и науку. Научная деятельность устроена сложнее, однако в некоторых отношениях она хорошо подходит агентам: существует огромный массив литературы в текстовом виде, обширные базы данных, а часть рабочих процессов уже основана на коде. В распоряжении науки есть и целое поколение специализированных ИИ-моделей, которыми могут пользоваться агенты: от инструментов для проектирования белков и материалов до передовых систем прогнозирования погоды.
Почему ИИ-агенты внезапно стали настолько полезными?
Тот, кто работал с ранними версиями ИИ-агентов, может сомневаться в их пользе для науки, где особенно важны строгость и надёжность. Однако современные агенты становятся полезнее благодаря сочетанию трёх факторов: более сильных передовых моделей, «обвязки», позволяющей полнее раскрыть способности этих моделей, и возможностей настройки, с помощью которых учёные адаптируют агентов под свои потребности.
Более сильные передовые модели
В сложных тестах научных знаний, таких как Humanity’s Last Exam и FrontierMath, ведущие модели уже превосходят специалистов-людей. Возможно, ещё важнее новая глубина рассуждений, обеспечиваемая рассуждением во время инференса: модель решает задачу в несколько развёрнутых этапов, исследуя и пересматривая варианты, прежде чем выдать окончательный ответ.
В математике и информатике, где открытие иногда может основываться исключительно на рассуждении, модели демонстрируют впечатляющие результаты. Однако более точные рассуждения полезны и за пределами математики: они позволяют агентам использовать «длинный хвост» результатов, затерянных в научных статьях, устанавливать связи между разными областями, выбирать нужный инструмент в нужный момент и замечать собственные ошибки по ходу работы.
Обвязка
Обвязка — это своего рода программная оснастка, помогающая ИИ-агенту полнее использовать скрытые возможности базовой модели, которые не проявляются сами по себе. Такой код «оборачивает» передовую модель, предоставляя ей структуру, память и доступ к инструментам: исполнению кода, научному программному обеспечению и поиску литературы. Он также позволяет агенту обращаться к специализированным ИИ-моделям и взаимодействовать с другими агентами.
Ранние агентные обвязки создавались под конкретную систему: они содержали подробные инструкции о планировании, выполнении задач и использовании инструментов. Но такие решения часто плохо переносились на другие агентные системы или даже на новые поколения тех передовых моделей, от которых зависели. Новые стандарты — например, протоколы взаимодействия агентов — должны уменьшить потребность в таком объёме индивидуальной обвязки.
Настройка
Агента можно адаптировать к определённой дисциплине, рабочему процессу лаборатории или отдельному исследователю. Одним из ключевых механизмов служат всё более распространённые «навыки» агентов, которые пользователи способны создавать по собственным подробным спецификациям.
Базовые модели хранят большое количество явных научных знаний — тех, что зафиксированы в статьях и учебниках. Но им не хватает неявного знания: трудно формулируемого мастерства, которое складывается за годы практики и неудач и помогает учёному добиться роста клеточной линии или правильно запустить моделирование. До сих пор исследователям приходилось с большим трудом передавать ИИ свои методические приёмы, процессы и предпочтения — через подробные промпты, специально созданную обвязку или дополнительное обучение модели.
Агентные навыки делают часть такого опыта переносимой. Это наборы инструкций, часто представляющие собой простые текстовые файлы, которые объясняют агенту, как выполнить задачу и какой результат подготовить. Навыки относительно легко создавать, распространять и накапливать. По мере использования агента учёным система также может опираться на историю взаимодействий, делая работу более персонализированной. Лаборатории и научные учреждения способны безопасно предоставлять агентам доступ к своим закрытым данным, например старым лабораторным журналам.
Специалист по вычислительной биологии Наташа Латышева рассказывает, что оформила некоторые элементы собственного исследовательского процесса в виде навыков. По её словам, ИИ-агенты пока не достигли полной надёжности, но направление развития уже понятно: научная работа будет смещаться от непосредственного выполнения операций к высокоуровневому управлению. Рабочий день исследователя может начинаться с просмотра экспериментов и анализов, которые агенты выполнили за ночь, после чего человек будет корректировать их направление и фокус внимания.
Как ИИ-агенты меняют — и не меняют — науку
Самое непосредственное и вместе с тем самое обыденное изменение для учёных — появление умных и неутомимых цифровых помощников. Исследователи передают агентам всё больше повседневной рутинной работы: просмотр литературы, запросы к базам данных, координацию анализов, подготовку данных и написание грантовых заявок. Агенты выполняют это за минуты вместо часов или дней, а затем представляют отчёт.
Агенты открывают и новые возможности. Старший научный сотрудник Матей Балог отмечает, что исследователи внезапно получили возможность делать то, чего раньше не могли делать вообще. Например, многим учёным не хватает навыков для создания необходимых программных инструментов и конвейеров. Одна из причин в том, что разрабатывать программное обеспечение для науки сложно. Кроме того, большинство учёных не проходили углублённой подготовки по программированию, а академическая среда традиционно не предлагала привлекательной карьерной траектории для профессиональных разработчиков научного ПО.
Агенты особенно сильны в написании кода: для этой области существует огромный объём обучающих данных, а правильность результата обычно можно проверить автоматически. Теперь учёный может описать задачу естественным языком — «напиши скрипт для очистки и объединения этих трёх наборов данных» или «создай интерактивный браузерный инструмент для изучения результата» — и через несколько минут получить пригодный к работе код.
Однако самое значительное изменение имеет структурный характер. Агенты упрощают создание идей и предлагаемых решений для исследуемых проблем, но пока не обеспечивают такого же роста возможностей в их проверке.
Формирование идей
Большинство учёных не испытывают недостатка в идеях. Трудность заключается в выборе тех, которыми стоит заниматься. Именно здесь начинают помогать агенты. Агент способен изучить доступную литературу целой области и установить междисциплинарные связи, на поиск которых у отдельного исследователя не хватило бы времени. Существующие инструменты Deep Research уже используют для этого субагентов. Но агенты, оптимизированные для формирования идей, идут дальше. Например, Co-Scientist направляет множество субагентов на создание разнообразных гипотез, их критику, ранжирование и последовательное улучшение. Это имитирует отдельные аспекты работы человеческого исследовательского коллектива, но выполняется с поразительной скоростью.
Гэри Пелтц из Стэнфордского университета применил этот инструмент при поиске существующих препаратов, которые можно было бы использовать для лечения фиброза печени — процесса рубцевания, лежащего в основе 1,4 миллиона смертей от цирроза ежегодно. Опираясь на собственный обзор литературы и десятилетия опыта, Пелтц выбрал два препарата-кандидата. Co-Scientist выбрал три. Ни один из вариантов Пелтца не принёс пользы в испытаниях на живых клетках печени человека. Два препарата, предложенных Co-Scientist, не только блокировали фиброз, но и способствовали регенерации клеток печени.
Это обнадёживающий пример, однако любая система на основе LLM способна ошибаться: даже самые сильные модели рассуждений по-прежнему могут выдумывать факты. Руководитель проекта Co-Scientist Вивек Натараджан предупреждает, что одно вымышленное утверждение на десятой странице отчёта способно обесценить весь результат. Незамеченная ошибка приводит к потере времени и ресурсов, а для её обнаружения может потребоваться специалист с глубокими знаниями. Такая ненадёжность закономерно вызывает осторожность учёных, и её снижение остаётся одной из главных задач разработчиков. Для эффективной работы в исследовательской среде агент не может оставаться «чёрным ящиком», который просто выдаёт ответ: он должен раскрывать ход рассуждений и выступать прозрачным партнёром.
Одна из ключевых задач — сформировать у агента то, что Натараджан называет «эпистемической скромностью»: модель должна понимать, когда она чего-то не знает, и сообщать об этом. В качестве примера он приводит систему предсказания структуры белков AlphaFold, ценность которой отчасти связана с указанием уровня уверенности для каждого элемента прогноза. Благодаря этому исследователь понимает, когда результату можно доверять, а когда следует обратиться к другим методам. Калибровка такой уверенности для более открытых научных рассуждений остаётся нерешённой проблемой.
В дальнейшем ещё более сложной может стать напряжённость между двумя одновременно желательными свойствами: гипотезы должны быть основаны на литературе и свободны от ошибок, но при этом оставаться действительно новыми. Агенты, настроенные на осторожность, склонны возвращаться к безопасному и уже известному. Если же настроить их на оригинальность, вероятность заблуждения возрастает. Для решения этой проблемы понадобятся новые идеи, в том числе более совершенные способы оценки новизны. Возможен и другой путь: теснее связывать агентов со специализированными моделями, обученными на научных данных, основанных на первых принципах, чтобы создавать одновременно оригинальные и надёжные идеи.
Поиск оптимального решения-кандидата
Агенты способны искать не просто работоспособное, а наилучшее решение. Материаловед, который ищет новый катализатор, сталкивается с почти бесконечным числом молекулярных структур, каждую из которых дорого синтезировать и испытывать. Перед информатиком, ищущим более эффективный алгоритм, открывается похожее огромное пространство вариантов.
Такие пространства решений встречаются во многих областях науки и промышленности. Агент AlphaEvolve умеет находить в них лучшие варианты. Получив задачу, выраженную в виде кода, и способ оценки потенциальных решений, он координирует группу агентов: те создают множество алгоритмов-кандидатов, сохраняют решения с наивысшими оценками и выводят следующее поколение из наиболее успешных вариантов. Система работает автономно, создавая и совершенствуя кандидатов в масштабах, недоступных человеческому коллективу.
AlphaEvolve работает с кодом, однако область его применения значительно шире программного обеспечения. Как отмечает Балог, алгоритмы способны точно описывать множество научных и природных процессов. AlphaEvolve участвовал в проектировании следующего поколения чипов TPU компании Google, помог математику Теренсу Тао решать открытые задачи Эрдёша и усовершенствовал анализ геномных данных.
Но в таких научных областях, как материаловедение, лучшие результаты AlphaEvolve остаются лишь перспективными направлениями, а не окончательными выводами. Многообещающий катализатор всё равно нужно изготовить и измерить его свойства в лаборатории.
Проверка
Проверка — это медленный и дорогостоящий процесс выяснения того, выдерживает ли идея столкновение с реальностью. Карл Поппер говорил, что наука развивается благодаря предположениям и опровержениям. Агентный ИИ меняет экономику этой пары. ИИ-агенты становятся машинами гипотез, превращая идеи и возможные решения в дешёвый и изобильный ресурс. Опровержения же остаются физическими и институциональными, а потому — дорогими и медленными.
Математику и информатику часто считают важными исключениями, поскольку там проверку можно выполнить целиком в цифровой среде. ИИ-агент способен создать доказательство, записать его на формальном языке вроде Lean и передать компьютеру для однозначной проверки правильности.
Проверка развивается даже в тех областях математики, которые пока нельзя описать формальным языком. Aletheia объединяет генератор доказательств с верификатором естественного языка, который проверяет работу и возвращает найденные ошибки на исправление. В феврале этого года математики провели первый конкурс First Proof: участникам предложили десять исследовательских задач, которые ранее не публиковались и потому не могли присутствовать в обучающих данных. За отведённую неделю Aletheia решила шесть задач — это был лучший результат.
Математикам ещё предстоит освоить поток новых результатов. Некоторые уже жалуются, что доказательства, созданные ИИ, слишком длинны и трудны для восприятия, хотя отдельные машинные доказательства оказываются краткими и изящными. Руководивший работой над Aletheia Тханг Луонг предупреждает о возможном серьёзном «несварении от доказательств», когда ИИ будет создавать открытия быстрее, чем люди смогут их изучать. Для устранения этого узкого места автоматическая проверка должна стать стандартом. При этом верификации потребуется объединить абсолютную корректность формальных языков вроде Lean с более выразительными рассуждениями на естественном языке.
Алекс Дэвис, также возглавляющий исследования ИИ для математики, отмечает, что его дисциплина, автоматизируя значительные части работы математиков, уже сталкивается с вопросами, которые через несколько лет могут возникнуть в других областях. Он допускает мир, в котором открытия совершают машины, а математикам остаётся понять эти открытия и решить, какие вопросы заслуживают дальнейшего изучения. Луонг добавляет, что математика может дать и часть универсальных технологий, необходимых для устранения узкого места проверки в других науках. В этом смысле математику можно считать ускоренным испытательным полигоном для остальной науки.
Пока же разрыв в возможностях проверки в большинстве дисциплин не сокращается, а увеличивается. Агент может предложить новую генетическую мишень для обращения клеточного старения, но не способен окончательно установить, работает ли она. Именно поэтому Google DeepMind, Ginkgo Bioworks и Lila Sciences инвестируют в автоматизированные лаборатории. Однако такие лаборатории подходят только для некоторых областей, требуют больших затрат и всё ещё находятся на ранней стадии развития. Даже автоматизация не может ускорить природные процессы: клеточным линиям нужно время для роста, а химическим реакциям — для завершения. Поэтому в значительной части науки темп по-прежнему задаёт лаборатория.
Последствия для разработчиков политики и организаций, финансирующих исследования
В определённой мере агенты лишь усиливают вопросы, которые уже рассматриваются в государственных стратегиях применения ИИ в науке. Среди них — подготовка следующего поколения учёных, эксперименты с новыми типами научных учреждений, предотвращение злоупотреблений ИИ со стороны злоумышленников и одновременное использование технологии против природных угроз, например следующей пандемии.
Каждому обнадёживающему сценарию соответствует сложный. ИИ-агенты могут позволить небольшим и гибким коллективам заниматься смелыми творческими идеями, обращая вспять тенденцию к «науке больших команд», или помочь учёным работать на стыке дисциплин, привнося новые взгляды в существующие проблемы. Если рост эффективности сделает агентов достаточно доступными, особую пользу могут получить небольшие страны, учреждения и организации с ограниченными ресурсами.
Но агенты также вызовут тревогу у молодых учёных, которые могут решить, что учреждения предпочитают тратить бюджет на токены, а не на сотрудников. При отсутствии продуманного управления агентные инструменты способны привести к утрате навыков у новых поколений исследователей ещё до того, как те разовьют способность здраво оценивать такие системы. По той же причине, по которой студенты-математики по-прежнему самостоятельно доказывают теоремы, подготовке учёных могут понадобиться специально предусмотренные периоды работы без агентов, а также доступ к агентам, действующим как настоящие когнитивные партнёры, а не как всезнающие оракулы.
Помимо этих вопросов, ИИ-агенты создают как минимум четыре новых неотложных приоритета:
- Учёным нужен доступ к инструментам.
- Инструментам нужен доступ к данным, подготовленным для агентов.
- Требуется дополнительная экспериментальная инфраструктура для проверки идей ИИ.
- Необходимо обновить процесс научного рецензирования.
1. Обеспечить широкий доступ к агентам
Агенты будут чрезвычайно полезны и одновременно способны ошибаться неочевидными способами. Оба обстоятельства дают разработчикам политики веские основания обеспечить всем учёным доступ к лучшим агентам: это ускорит открытия и позволит научному сообществу независимо оценивать ИИ-системы, чтобы понять, как следует их использовать.
Для государства и организаций, финансирующих науку, это неотложный стратегический приоритет, сравнимый с исторической задачей предоставления доступа к суперкомпьютерам. Геополитические споры сегодня часто сосредоточены на одном аспекте технологического суверенитета — способности страны обучить собственную передовую модель. Гораздо меньше внимания уделяется тому, что может оказаться важнее: способности государства внедрить агентов в свою научную экосистему и добиться преобразующего эффекта.
На уровне отдельных лабораторий финансирующим организациям сначала предстоит решить, как исследователи будут выбирать агентов и оплачивать их работу. В ближайшей перспективе выбор — более простая задача: следует позволить учёным самим находить наиболее полезные инструменты, не создавая избыточных согласований и сложных процедур закупки.
С оплатой сложнее. Возникает соблазн использовать существующие механизмы: учёные будут запрашивать средства в грантовых заявках или расходовать бюджеты лабораторий. Но работа агентов может требовать значительных вычислительных ресурсов, а граница их возможностей постоянно расширяется. Хотя цена единицы возможностей ИИ быстро снижается, общие расходы лабораторий на агентов, вероятно, продолжат расти, поскольку им будут поручать всё более долгие и сложные задачи. Разработчикам политики необходимо быстро определить, достаточно ли увеличить существующие бюджеты или нужны совершенно новые программы финансирования. Для обеспечения доступа в требуемом масштабе и по приемлемой цене понадобятся новые государственно-частные партнёрства; американская программа Genesis Mission представляет собой одну из перспективных моделей.
Впереди более серьёзные вопросы. Агенты способны сделать распределение национальных бюджетов между научными дисциплинами более прозрачным и вынудить финансирующие организации количественно оценивать вложения в данные и вычисления, необходимые для решения конкретных задач. Это, в свою очередь, может привести к более предметному обсуждению относительной ценности разных проблем. Если агенты предложат лучшие гипотезы для целой области, но планы их экспериментальной проверки окажутся чрезвычайно дорогими, как встроить их в национальные стратегии финансирования?
2. Подготовить национальные массивы данных к работе с агентами
Учёным нужен доступ к агентам, а агентам — к данным. Открытые данные и данные с низким уровнем риска следует предоставлять агентам через хорошо документированные API, обеспечив контроль качества и достаточное количество метаданных. Инженерная поддержка и обслуживание такой инфраструктуры — нетривиальная задача, поэтому организации должны выделять ресурсы на ответственное управление данными и поддержку совместимых стандартов. Вместе с тем способность агентов извлекать и размечать сведения из PDF-файлов и порталов загрузки даёт государству возможность получить намного больше пользы из уже профинансированных данных.
На более чувствительные наборы данных в геномике, вирусологии и других областях двойного назначения обычно распространяются ограничения на круг пользователей и способы применения. Теперь необходимо, где это уместно, разработать для агентов аналогичные решения, обеспечивающие конфиденциальность, аудит и защиту частной информации. Источником идей могут стать такие проекты, как OpenSAFELY, предоставляющий исследователям безопасный доступ к ценным медицинским данным, или исследовательская аналитическая платформа UK Biobank. Потенциальная выгода велика: анализ набора данных, на который сегодня уходят годы работы аспиранта, при наличии подходящей защищённой инфраструктуры может быть автономно выполнен за несколько дней.
Возможно, самое важное заключается в том, что агенты создают вескую причину финансировать формирование совершенно новых открытых наборов данных. Возникает следующий вопрос: способны ли сами агенты помогать определять, создание каких наборов данных наиболее важно? Недавно некоторые авторы этой статьи попытались ответить на подобный вопрос для термоядерной энергетики с помощью человеческих экспертов. Как скоро агенты смогут самостоятельно проводить аналогичную «инвентаризацию данных для ИИ»?
3. Устранить узкое место проверки
Многим учёным уже сейчас не хватает времени на экспериментальных установках. По мере того как ИИ-агенты будут создавать всё больше гипотез и решений-кандидатов, это узкое место станет ещё теснее. Разработчики политики и финансирующие организации должны действовать как минимум в двух направлениях: инвестировать в существующую экспериментальную инфраструктуру и ускорять развитие автоматизированных лабораторий.
Государственные научные организации располагают обширными экспериментальными установками почти во всех областях. ИИ-агенты дают новый убедительный аргумент в пользу инвестиций в них и расширения доступа — например, посредством аренды лабораторных мест или времени работы оборудования для исследователей, проверяющих вычислительные гипотезы и прогнозы в реальном мире. Другой путь — прямые партнёрства с ИИ-лабораториями. Google DeepMind создала лабораторию для экспериментов с биологическими материалами в британском Институте Фрэнсиса Крика, одном из ведущих центров биомедицинских исследований. Компания также предоставляет независимым учёным финансирование и доступ к Co-Scientist для проведения экспериментов, необходимых для проверки гипотез, разработанных с помощью агентов. Американская Genesis Mission свяжет экспериментальные установки национальных лабораторий Министерства энергетики США с академическим сообществом и индустрией ИИ.
Автоматизированные лаборатории — ещё один перспективный способ устранить узкое место проверки, однако сейчас они зависят от дорогой робототехники и вычислительной инфраструктуры. Для широкого доступа потребуются государственные инвестиции, и первые шаги уже делаются. Национальный научный фонд США выделил 100 миллионов долларов на национальную сеть распределённых объектов, а Великобритания объявила сбор предложений и уже располагает Фабрикой инновационных материалов стоимостью 81 миллион фунтов. Развитие автоматизированных лабораторий почти наверняка превысит финансовые возможности отдельной лаборатории или учреждения, поэтому государствам следует рассмотреть создание централизованной инфраструктуры и модель доступа, подобную центрам коллективного пользования национальных лабораторий Министерства энергетики США.
4. Предоставить рецензентам агентов
Система научного рецензирования давно испытывает нагрузку: сроки затягиваются, а качество отзывов сильно различается. Теперь учёные применяют ИИ для подготовки всё большего числа грантовых заявок и статей. Финансирующим организациям становится сложнее решать, какие исследования поддерживать, а рецензентам — проверять результаты и выделять наиболее важные работы.
Как отмечали профессора Джеймс Уилсдон и Джерейнт Рис, проблема заключается не только в росте количества текстов: качество изложения больше нельзя считать надёжным критерием. Агенты углубляют эту проблему. Чем больше самостоятельности получает агент при планировании и оптимизации заявки с учётом критериев финансирующей организации и недавних победителей конкурса, тем меньше итоговая заявка отражает оригинальную мысль учёного.
Финансирующие организации, журналы и конференции испытывают разные варианты решения. Для грантовых заявок иногда предлагают меньше полагаться на письменный текст и больше учитывать послужной список исследователя и состав команды. Совет по медицинским исследованиям Великобритании недавно вернул собеседования с кандидатами, прошедшими предварительный отбор. Эти идеи перспективны, но способны предоставить преимущество опытным специалистам или повысить стоимость отбора.
Вероятным решением станет многоуровневый подход. Разработчики и пользователи ИИ должны яснее документировать его применение. Это может включать развитие технологий водяных знаков и такие идеи, как «карточки взаимодействия человека и ИИ» — краткие записи о промптах и ответах, которые привели к ключевым научным выводам.
Рецензенты также должны получить возможность использовать агентов. Сделать это будет непросто, поскольку применение ИИ часто запрещено, хотя тайно практикуется весьма широко. Для движения вперёд организации могут опираться на более взвешенные рекомендации, уже разработанные некоторыми учреждениями, и испытывать агентов в более объективных областях, где они особенно полезны, например в поиске ошибок.
Следует также добиваться того, чтобы учёные воспринимали агентов как ориентированные на человека инструменты, усиливающие профессиональное суждение, а не обходящие его. Для этого необходимо открыто сообщать о применяемых системах и обеспечивать раскрытие хода рассуждений, подтверждение утверждений ссылками и, насколько возможно, документирование неопределённости. Понимая, как ИИ-агент пришёл к заключению, учёный получает возможность учиться, вмешиваться в процесс и сотрудничать с системой.
Годы становления
Учёные, уже использующие ИИ-агентов, не собираются от них отказываться. Технология продолжит совершенствоваться. Институты, управляющие наукой, а также её физическая и социальная инфраструктура создавались для исследовательской системы, которая теперь меняется быстрее, чем они сами. Их необходимо обновить для агентной эпохи.
Для этого потребуются значительные коллективные усилия и серьёзные инвестиции. ИИ-агентов нельзя рассматривать как основание для сокращения расходов на науку — такая ложная экономия стала бы трагической ошибкой. Страны, которые воспримут происходящее как настоящий структурный перелом, смогут получить наибольшую общественную пользу и повлиять на дальнейшее развитие событий. Решения, принятые в этот период, впоследствии может быть трудно изменить.
Авторы: Дон Уоллес, Конор Гриффин, Шон О’Нил, Тханг Луонг, Оуэн Лартер