За последние несколько лет технологии, созданные на основе нейронных сетей (нейросетей), стали одной из наиболее обсуждаемых и активно развивающихся научных тематик. Одним из наиболее «громких» достижений, созданных с помощью нейросетей, стал искусственный интеллект (ИИ) – технология обработки данных, которая имитирует умственные процессы человека, такие как логическое мышление, обучение, запоминание [1, 2].
В 1956 г. прошел семинар по разработке логических задач и способов автоматизации их решения. На нем был впервые представлен термин «искусственный интеллект». После данного семинара ИИ стал считаться отдельной отраслью науки. Через 25 лет Барр и Файгенбаум предложили более точное определение ИИ, в котором говорится, что ИИ является областью информатики, которая занимается разработкой интеллектуальных компьютерных систем: понимание языка, обучение, способность рассуждать, решать проблемы и т.д. Ученые выделяли ключевые моменты у ИИ, к которым должны прийти создатели в ходе работы над ним [3].
Активное изучение и внедрение ИИ привели к разработке ряда технологий для нужд медицины [4, 5]: анализ изображений (КТ, МРТ), анализ генетических нарушений, компьютерное моделирование [6–8] и т.д.
Впрочем, наиболее доступный и простой способ прикоснуться к технологиям ИИ – это применение больших языковых моделей (БЯМ, large language model – LLM), созданных с его использованием (YandexGPT, GigaChat, ChatGPT, Bard и пр.). Причем технологии языковых моделей используются не только в быту, но и в медицинской деятельности, правда, для начала следует разобраться в терминах. Языковая модель – это компьютерная программа, созданная для обработки человеческого языка, способная формулировать ответы на задаваемые ей вопросы. Языковые модели варьируются по размеру и сложности: от небольших систем, основанных на коротком своде правил (чат-боты), до сложных моделей на базе нейросетей [9]. Последний тип зачастую называют «Большие языковые модели» (БЯМ) – это системы на основе ИИ, которые обучаются на огромных объемах текстовых данных, полученных из статей, книг и других ресурсов (доступных, к примеру, в сети Интернета) [10]. Как правило, для предоставления сложных ассоциативных отношений между словами в текстовом наборе обучающих данных используют «глубокое обучение» – технологию моделирования высокоуровневых абстракций [10]. Данная технология способна интерпретировать пользовательские запросы и предоставлять диалоговый ответ, как в случае с ChatGPT, разработанным OpenAI [10].
Необходимо отметить, что технологии, которые позволили бы создать ИИ, изучают уже длительное время. Истоки языковых моделей восходят к 1950-м гг. (Джорджтаунский эксперимент – IBM) [12]. Одна из первых языковых моделей, «чат-бот» ELIZA, была создана в 1960-х гг. [13]. Активное развитие и распространение сети Интернета с начала 1990-х гг. способствовали постоянному росту интереса к технологиям с использованием языковых моделей [14]. А последнее десятилетие отметилось одним из наиболее быстрых скачков в развитии нейронных сетей [15] благодаря разработке нейронных сетей-трансформеров, которые могут обучаться с повышенной скоростью. Один из наиболее известных примеров подобной нейросети – это ChatGPT, где GPT – Generative pre-trained transformer (генеративный предварительно обученный трансформер). Именно он открыл для большинства людей эпоху БЯМ. Коротко описывая особенности данного вида БЯМ, следует отметить, что их задача – «сгенерировать» ответ, то есть создавать его на основе существующих данных. Это, с одной стороны, позволяет моделям создавать множество разных вариантов ответа, с другой стороны, может приводить к возникновению так называемого феномена искусственных галлюцинаций, когда модель подменяет реально существующие факты искусственно созданными.
С тех пор БЯМ продолжают расти и развиваться во всех отношениях, завоевывая популярность среди как населения в целом, так и профессиональных сообществ, к примеру медицинского сообщества [16]. На данный момент среди больших языковых моделей наиболее известные примеры – это GPT-3.5, GPT-4 и ChatGPT (OpenAI), Bing (Microsoft), Sparrow (DeepMind), BlenderBot 3 (Meta Platforms), Bard (Google), а также русскоязычные YandexGPT (Yandex) и GigaChat (Сбер).
И хотя примеров использования больших языковых моделей в медицине множество [17] (самодиагностика и самолечение, обработка данных анализов, постановка диагнозов, составление страховых апелляций или писем, создание инструкций и т.д.) [18, 19], в данной работе мы хотели бы остановиться на применении больших языковых моделей для академического использования в урологии – написания статей, рецензий и т.п.
Примеры применения больших языковых моделей
Многие специалисты считают, что применение больших языковых моделей в медицине может до неузнаваемости изменить облик современного здравоохранения. Модели на основе нейросетей способны вести медицинскую документацию, контролировать лекарственную терапию пациентов, создавать алгоритмы диагностики заболеваний [20]. Свои коррективы ИИ внес в подход к академическому письму. ChatGPT не только показывает себя как мощный инструмент для корректировки и перевода текста, но и способен самостоятельно создавать тексты на заданную тематику [21].
Благодаря возможности создания готового текста модель помогает выполнять базовые редакционные задачи, что особенно актуально для авторов, которые не являются носителями языка [21]. Используя большие языковые модели, ученые могут экономить время и усилия, подготавливать в короткие сроки материалы, не требующие глубокой проработки. Искусственный интеллект способен извлекать основные моменты из длинных текстов и осуществлять поиск цитат по запросу, тем самым предоставляя исследователям больше времени на интерпретацию и анализ данных [22]. Впрочем, следует помнить, что большие языковые модели не придумывают текст, а скорее собирают его из различных источников, доступных модели.
Одним из ярких примеров может стать работа с провокационным названием, опубликованная Р. Янковским в марте 2023 г.: «Способен ли искусственный интеллект написать статью в юридический журнал?» [23]. Большая часть публикации была написана ChatGPT (20 тыс. знаков из 30 тыс. полного текста). Автор сообщил, что ChatGPT пока плохо понимает юридический контекст, ошибается в интерпретации некоторых терминов, поэтому в настоящий момент он воспринимает нейросеть как инструмент для создания черновика, в который человек будет вносить правки. Несмотря на это, подобные возможности нейросети – это важный прецедент, и вопрос о том, насколько этично использовать нейросеть для создания такого «черновика», остается открытым и неоднозначным.
Подобные работы проходят и в других странах, так, Ariyaratne и соавт. провели исследование, в котором два специалиста-рентгенолога сравнили пять статей по радиологии, написанных с помощью ChatGPT (версия 3.0) [24]. Статьи классифицировались по шкале Likert от 1 до 5, где 1 – плохо и неточно, а 5 – отлично. По мнению исследователей, ChatGPT сгенерировал исследования с достойными введениями, основной частью и заключениями. Нейросеть допускала логические ошибки в тексте, например, описывала хирургическое лечение для когорты пациентов, которая для него не подходила. Все статьи, написанные ИИ, эксперты оценили в 1 балл. Впрочем, не все так однозначно – авторы замечают, что для неподготовленного читателя работы, созданные нейросетью, могут казаться реальными и качественными. Особенно интересным исследователи считают то, что у языковой модели были значительные проблемы со ссылками – большая часть из них была фиктивной. Подобные особенности работ, написанных с помощью ИИ, называют «феноменом искусственных галлюцинаций» – т.е. явлением, когда ИИ описывает некий правдоподобный опыт, который не основывается на реальных данных.
Искусственным галлюцинациям была посвящена статья, опубликованная Athaluri и соавт. [25]. Они проанализировали работы, созданные ChatGPT, и оказалось, что из 178 ссылок 69 не имели цифрового идентификатора объекта (DOI), а 28 ссылок не появлялись в поиске PubMed, а также не имели DOI. Авторы замечают, что у ChatGPT отсутствует связь между идеей и областью ее применения, между идеей и ее источником. Авторы связывают это и с доступностью онлайн-статей, и сложностью доступа в закрытые базы данных.
Схожую задачу поставили перед собой Dashti и соавт., которые в своем исследовании [28] решили определить, насколько хорошо ChatGPT формирует ссылки и соответствует ли информация, которую он может предоставлять, реальным научным данным. ChatGPT занимался поиском по ключевым словам в журнале Journal of Prosthetic Dentistry. Процесс повторили дважды, каждый раз с новым набором ключевых слов, в общей сложности нейросеть предоставила 75 публикаций. Затем авторы выясняли, существуют ли данные публикации в реальности. Результаты были удручающими – оказалось, что 100% выборки, созданной ChatGPT, отсутствовали в базах Journal of Prosthetic Dentistry и Google Scholar. Авторы пришли к выводу, что ИИ требуется больший объем информации, чтобы они могли анализировать и предоставлять данные на том же уровне, что и настоящие эксперты. Пока основной задачей ИИ является предоставление любого ответа (даже сфабрикованного), а не поиск достоверной и высокоточной информации. Таким образом, использование ИИ на данном этапе позволяет быстро подготавливать текст, а не писать достоверную, важную и качественную работу, что несомненно важно, однако требует строго контроля со стороны редакционных коллегий журналов по всему миру во избежание ненадлежащего использования.
Более успешные результаты получила команда, которая дала нейросети менее конкретную задачу и предоставила достаточное поле для маневра. В работе Anderson и соавт. эксперты оценили пять статей об экологическом состоянии окружающей среды, написанных ИИ [26]. Средняя оценка по пятибалльной шкале Likert составила 3,9. Авторы отметили, что нейросеть использует слишком технический язык, не доступный широкой аудитории. Однако, когда ChatGPT пытался упростить текст, он упускал важные детали. Также имелись ошибки в описании методов исследования – в одной из статей оценивался уровень озеленения и концентрация углекислого газа в жилых помещениях, хотя основное содержание статьи не нуждалось в этих данных.
Májovský и соавт. использовали ChatGPT для создания статьи в медицинский журнал по теме нейрохирургии [27]. Процесс написания работы занял час, статья состояла из 1992 слов и имела 17 ссылок. Затем ее проанализировали специалисты в области психиатрии, нейрохирургии и статистики. Они отметили, что нейросеть отлично справилась со структурой работы, добавила в текст диаграммы и таблицы. Однако начало и конец текста, созданного ИИ, были разрозненными и обсуждали не связанные между собой вопросы. Также имелись ошибки в статистических расчетах. Хуже всего нейросеть справилась со списком литературы. Больший процент ссылок был искусственно создан ChatGPT. Эксперты отмечают, что заметить эти нюансы может лишь человек с большим опытом написания научных статей.
Основываясь на работах [21, 22], демонстрирующих, как успешно ИИ справляется с несложными задачами, можно предположить, что на данный момент использование ChatGPT для редактирования и внесения правок в текст более продуктивно, нежели для самостоятельного генерирования крупных частей текста с целью предоставления логичной, обдуманной и соответствующей действительности статьи.
Также имеются данные о создании с помощью нейросетей учебных пособий. Mondal и соавт. [29] использовали ChatGPT в качестве инструмента для создания руководства по 14 дерматовенерологическим нозологиям для повышения уровня осведомленности пациентов. Проверкой написанного материала занимался врач-дерматовенеролог. Проводилась оценка двух основных показателей: «уровень понимания» (насколько специфический язык используется, на какую аудиторию рассчитан текст) и «показатель читабельности» (насколько корректно лингвистически составлена работа). Первый показатель был на уровне студента медицинского института или колледжа, при этом читабельность работы была выше, чем у ряда англоязычных индийских журналов. Авторы остались довольными работой ChatGPT, но подчеркнули, что ИИ нуждается в корректировке со стороны людей [30, 31].
Ограничения
Возможность использования больших языковых моделей для подготовки публикаций вызвало широкий общественный резонанс как из-за рисков разрушения привычного уклада исследовательской деятельности, так и из-за страха, что применение ИИ нивелирует труд исследователей. Многие крупные ученые и научные издания активно высказываются по этому поводу и пытаются прийти к консенсусу.
Журналы Sсience и Nature высказали свое мнение об использовании нейросетей в письме от 26.01.2023. Цитата из редакционной политики журнала Sсience гласит [36]: «Текст, созданный с помощью ИИ, машинного обучения или аналогичных алгоритмических инструментов, не может быть использован в статьях, опубликованных в научных журналах. Кроме того, программа не может быть автором статьи в научном журнале. Нарушение этой политики представляет собой научный проступок». Требования журнала Nature аналогичны.
Как видим и мы, использование больших языковых моделей в оригинальных исследованиях таит множество рисков – от возможности неверной интерпретации информации до распространения неопубликованных данных (помните, нейросеть обучается на всем, что ей предоставляют пользователи) [22]. Не проще ситуация с обзорными работами – в этом случае большая языковая модель может использовать неверные данные, а может и создавать часть из них (из-за «искусственных галлюцинаций»).
Чтобы подчеркнуть сложность этого вопроса, мы попросили две языковые модели предложить нам ответ на вопрос: насколько этично использование искусственного интеллекта для подготовки медицинских публикаций?
Ответ БЯМ СhatGPT-3:
«Использование ИИ в медицинском академическом письме может быть этичным, если такие системы применяются для достижения более точных, надежных и эффективных результатов. Однако важно учитывать, что использование ИИ должно быть прозрачным и открытым, с ясным объяснением методологии и пределов точности. Кроме того, уважение к приватности пациентов и соблюдение этических стандартов в области исследований также являются неотъемлемыми компонентами использования ИИ в медицине.»
Ответ БЯМ YandexGPT2:
«Использование искусственного интеллекта (ИИ) в медицинской научной деятельности является этичным при условии соблюдения определенных принципов и стандартов. Во-первых, данные, которые используются для обучения ИИ, должны быть анонимными и защищенными. Это включает защиту конфиденциальности и личных данных пациентов. Во-вторых, результаты исследований с использованием ИИ должны быть прозрачными и доступными для всех заинтересованных сторон. В-третьих, необходимо учитывать возможные риски и преимущества использования ИИ в медицинской науке, а также проводить соответствующие исследования по оценке безопасности и эффективности его применения. В-четвертых, внедрение ИИ в медицинскую науку должно быть открытым и демократичным процессом, где все участники имеют равные возможности и доступ к информации. Наконец, важно помнить, что использование ИИ не должно заменять человеческое суждение и опыт, а скорее дополнять их для улучшения качества медицинской помощи».
Ответы ИИ неизбежно содержат схожие аргументы, с которыми трудно поспорить. Мы уверены, что использование больших языковых моделей станет неотъемлемой частью нашего будущего. Однако для правильного применения таких моделей необходимо соблюдать определенные стандарты и нормы. Следовательно, нам необходимы строгие этические принципы, регулирующие работу нейронных сетей.
Отрасль ИИ с самого начала делилась на две части – кибернетику и нейрокибернетику. Главный замысел нейрокибернетики заключается в подтверждении уникальности человеческого мозга, который может мыслить, и в необходимости схожести устройств ИИ с мозгом человека. Нейрокибернетики детально изучали аппаратное моделирование структур, подобных структуре человеческого мозга. Они взяли на себя работу создания и объедения системы элементов, похожих на нейроны. Именно такие системы стали называться нейросетями. Кибернетики же встали на другую сторону – на сторону отказа от идеи всего перекопирования мыслительных процессов человека. Для них не имело значения, как устроено «мыслящее» устройство. Главным они считали следующее: чтобы на указанные вопросы устройство и человек реагировали одинаково. Как все происходит внутри машины, кибернетиков не интересовало. Поэтому они и получили название «кибернетика черного ящика» [37].
Давайте разберемся, о чем идет речь. Для реализации кибернетического эксперимента часто используется имитационное моделирование или компьютерное моделирование. При этом основным является принцип «черного ящика» [38]. Кибернетический принцип «черного ящика» был предложен Н. Винером [39]. В отличие от аналитического подхода, при котором моделируется внутренняя структура системы, в методе «черного ящика» моделируется внешнее функционирование системы. Таким образом, как нам видится, данная особенность такой модели ИИ может стать проблемой и привести к непредсказуемым последствиям.
Большие языковые модели, основанные на нейронных сетях, становятся неотъемлемой частью нашего будущего, преобразуя множество областей науки и медицины с применением ИИ. Однако важно осознавать, что их влияние может оказаться как положительным, так и негативным. Хочется вспомнить слова героя книги Агаты Кристи – непревзойденного сыщика Эркюля Пуаро:
«У всех нас есть эти маленькие серые клеточки в голове, но только избранные знают, как ими пользоваться…», «Только одно необходимо для раскрытия дела: серые клеточки – он постучал себя по лбу, – вот на что мы должны полагаться» и «Потому что в конце концов никогда не известно, где найдешь, а где потеряешь».
Для того чтобы обеспечить положительные изменения в настоящем и будущем, медицинское сообщество России должно активно участвовать в процессе и управлять им, а не оставаться в стороне, чтобы, оценивая и используя ИИ, не потерять больше, чем видится приобрести.
