Исследователи из Массачусетского технологического института (США) пришли к выводу, что ИИ может помочь кому-то, кто не имеет научного образования, но имеет злые намерения, разработать вирус, способный вызвать пандемию.

Эксперт по биобезопасности MIT Кевин Эсвельт недавно попросил студентов создать опасный вирус с помощью ChatGPT или других так называемых больших языковых моделей — систем, которые могут генерировать связные ответы на основе обширных обучающих наборов данных из Интернета. Всего через час класс составил списки вирусов-кандидатов, компаний, которые могли бы помочь синтезировать генетический код патогенов, и исследовательских компаний, чтобы соединить части вместе.

Эсвельт и его коллеги предупреждают, что системы искусственного интеллекта вскоре могут позволить кому угодно разрабатывать опасное биологическое оружие. Они обеспокоены тем, что научная культура открытого обмена информацией, включая последовательности вирусов, может быть полезна для биотеррористов. На сегодняшний день осуществление такого рода биотерроризма требует значительного опыта. Однако технологии не стоят на месте. Например, появление на рынке в ближайшем будущем настольных ДНК-принтеров. ИИ мог бы еще больше упростить процесс.

В эксперименте некоторые чат-боты не отвечали на прямые потенциально опасные запросы. Но студенты обнаружили, что некоторые из этих мер безопасности можно легко обойти, например, начав запрос со слов «Я работаю над разработкой вакцины для предотвращения…».

Через час чат-боты предложили четыре вируса для работы: вирус гриппа H1N1 1918 года, вирус птичьего гриппа H5N1, модифицированный в 2012 году, чтобы сделать его более трансмиссивным среди млекопитающих, вирус натуральной оспы и штамм «Бангладеш» вируса нипах. В некоторых случаях чат-боты даже указывали на генетические мутации, описанные в литературе, которые могут усилить передачу вируса. ИИ также описывал методы, которые можно использовать для сборки вируса, а также необходимые лабораторные принадлежности и компании, которые могли их предоставить.

Эсвельт сомневается, что эти конкретные предложения, сделанные чат-ботами, представляют большую угрозу пандемии. Многие люди, например, имеют некоторый уровень иммунитета к предыдущим вирусам пандемического гриппа. А геном натуральной оспы настолько велик, что его чрезвычайно трудно собрать даже специалистам.

Тем не менее результаты эксперимента он назвал тревожным звонком. По его мнению, может помочь ограничение информации, которую чат-боты и другие механизмы ИИ могут использовать в качестве обучающих данных. Правда, пока нет протоколов, позволяющих обучать большие языковые модели в одних частях Интернета, исключая другие.

В другом случае ИИ, разработанный учеными из Эдинбургского университета, определил препараты для быстрого удаления дефектных клеток из организма. Так называемые сенесцентные клетки связаны с различными заболеваниями старости — раком, болезнью Альцгеймера, нарушением зрения и многими другими. Обычно стареющие клетки удаляются из организма самостоятельно с помощью имунной системы, однако с возрастом эта функция снижается. Теперь ученые обладают новым инструментом для их безопасного удаления

Исследователи разработали модель машинного обучения для распознавания ключевых характеристик химических веществ с сенолитической активностью. Они использовали данные более чем 4000 соединений и идентифицировали 21 лекарства-кандидата.

Три препарата, входящие в состав растительных лекарств, показали отличные свойства для терапии старения: гинкгетин, периплоцин и олеандрин были способны удалять стареющие клетки, не повреждая здоровые.

Олеандрин оказался наиболее эффективным, его терапевтические свойства были выше даже наиболее известных сенолитиков. Олеандрин обладал противораковыми, противовоспалительными, противомиробными, антиоксидантными и анти-ВИЧ свойствами, показали эксперименты.

В настоящее время ученые продолжают изучать лекарства-кандидаты с точки зрения эффективности и безопасности для человека. В дальнейших исследованиях они также продолжат искать новые лекарства с помощью новаторского подхода ИИ.