Для Максима Топаза цей процес уже став **звичною рутиною**.
Доцент Школи медсестринства Колумбійського університету давно користувався інструментами штучного інтелекту, щоб відшліфовувати наукові статті — виправляти граматику, підганяти формат і прибирати дрібні огріхи. Але через кілька тижнів після подання чергового дослідження журнал, у якому мала вийти робота, повернувся з питаннями щодо одного джерела: ШІ-інструмент, яким користувався Топаз, **непомітно додав вигадане посилання** до тексту.
«Я відчув глибокий сором», — розповів Топаз, який очолює команду в Колумбійському університеті, що розробляє застосування ШІ в охороні здоров’я, у коментарі для Fortune.
«Я дослідник ШІ. Я знаю про галюцинації, — сказав він. — Якщо це трапляється зі мною, експертом із ШІ, то що відбувається з іншими людьми?»
Цей майже допущений промах підштовхнув Топаза до розслідування: як часто фахівці непомітно стають жертвами помилок ШІ. Виявилося — **дуже часто**.
У дослідженні, опублікованому на початку цього місяця в The Lancet, Топаз і його колеги провели аудит майже 2,5 млн біомедичних статей і 97 млн цитувань, проіндексованих у PubMed Central — центральному сховищі, яким користуються клініцисти та науковці по всьому світу. Команда знайшла понад 4 000 вигаданих посилань, захованих у майже 3 000 публікаціях. Не кожне з них було згенероване ШІ, однак, за словами Топаза, зростання фальшивих джерел пішло «майже вертикально» у 2024 році — невдовзі після того, як ШІ-інструменти в дослідницькій роботі стали масовими.
«Цілком логічно припустити, що зараз ШІ **тісно пов’язаний** із цим явищем», — зазначив він.
За останні три роки частка вигаданих посилань у біомедичній літературі зросла більш ніж у 12 разів. У 2023 році лише одна з 2 828 статей містила хоча б одне фейкове джерело, тоді як торік показник піднявся до однієї з 458. За перші сім тижнів 2026 року дослідники зафіксували: уже одна з 277 робіт має принаймні одне неіснуюче посилання.
«Мені здається, що це лише **верхівка айсберга**», — сказав Топаз.
Галюцинації виникають тоді, коли модель ШІ віддає перевагу мовним шаблонам над точністю. Часто це нешкідливо, але ставки різко зростають, коли помилки ШІ починають проникати в академічні публікації, адже такі збої здатні **підточувати науковий процес**.
Медицина — галузь, що вибудовується на попередніх результатах. Клінічні випробування посилаються на ранні дослідження; систематичні огляди зводять ці випробування докупи, а медичні настанови вже цитують огляди. Лікарі та медсестри спираються на такі настанови, обираючи лікування для пацієнтів. Якщо вигадане дослідження потрапляє на старті цього ланцюга, воно там не залишається.
«Це ланцюг доказів — так ми доглядаємо та лікуємо людей. Якщо покласти вигадане дослідження в основу, вся конструкція **успадкує помилку**», — пояснив Топаз.
«Ми вже бачили, як статті з паперових “фабрик” включали до систематичних оглядів, що впливають на клінічні настанови, — додав він. — Коли настанова цитує роботу з частково вигаданим списком джерел, доказовий ланцюг для рішень про лікування стає скомпрометованим».
ШІ-помилки не обирають професію
Про вразливість ШІ до галюцинацій відомо ще з появи ChatGPT чотири роки тому, коли студенти почали сміливо здавати під своїм іменем сумнівні ШІ-згенеровані роботи. Та сьогодні, коли агенти, розширення й допоміжні сервіси стали звичними майже в кожній професії, навіть люди з глибокою експертизою починають спотикатися об помилки ШІ.
Показовий приклад — Стівен Розенбаум. Цього тижня автор і кінематографіст опинився в новинах з неприємного приводу після того, як New York Times виявила низку неточних цитат у його новій книзі The Future of Truth: How AI Reshapes Reality.
Книга містила відгуки від відомих журналістів, зокрема Ніколаса Томпсона, генерального директора The Atlantic, а також передмову Марії Ресси — нобелівської лауреатки миру з Філіппін. Вона вийшла, як пише Times, «з великим розголосом».
За даними видання, у книзі Розенбаума було понад пів десятка цитат, що були неправильно приписані або повністю вигадані; ймовірно, їх згенерували ШІ-інструменти, про використання яких він повідомив у подяках. У заяві для Times Розенбаум визнав помилки, назвавши ситуацію **попередженням про ризики** ШІ-асистованих досліджень і перевірки фактів.
Подібні випадки можуть стати неминучими з огляду на масштаби застосування ШІ у складній інтелектуальній роботі. Деякі редакції, зокрема Fortune, уже пілотують використання ШІ-інструментів у репортажах. Опитування показують, що понад половина юристів використовує ШІ для чернеток меморандумів і процесуальних документів. Нещодавній звіт Американської медичної асоціації засвідчив: **понад 80% лікарів** уже застосовують ШІ професійно для узагальнення досліджень і підготовки клінічної документації — і ця частка більш ніж подвоїлася з 2023 року. Навіть нобелівські лауреати, як-от письменниця Ольга Токарчук, визнають, що використовують ШІ у творчості.
Що стосується наукових публікацій, то одне дослідження минулого року в американському медичному журналі визначило: 36% статей містили хоча б частково ШІ-згенерований текст, хоча лише 9% авторів повідомили про це, коли їх прямо запитали перед поданням рукописів. Інша свіжа робота показала, що понад половина дослідників імовірно використовує ШІ, коли проводить рецензування чужих статей.
Та, як виявляється, експерти не захищені краще за інших. Дослідження Топаза про галюцинації в біомедичних роботах доповнює дедалі більший масив історій і даних про прикрі промахи — зокрема каталог юридичного аналітика Дам’єна Шарлотена, який зібрав 1 459 судових рішень із посиланнями на ШІ-згенерований неточний контент. Ще рік тому подібні помилки в юридичних кейсах з’являлися два-три рази на місяць; нині їх близько п’яти на день.
Як фахівці пропускають фальшиві посилання
Фейкові ШІ-згенеровані наукові статті вже стали проблемою для академічного середовища: їх дедалі важче відрізняти, і вони можуть перевантажити систему рецензування. Але вигадані посилання всередині реальних робіт, написаних людьми, можуть бути не менш поширеними — і потенційно **ще складнішими для виявлення**.
Переважна більшість статей у вибірці Топаза містила лише одне або два сфабриковані цитування з-поміж кількох десятків джерел, які зазвичай потрібні для публікації. Це натякає, що в більшості випадків галюцинації в наукових рукописах є ненавмисними.
Однак, за словами Топаза, видавнича індустрія може бути не готовою до стрімкого зростання кількості фейкових посилань. Методи перевірки відрізняються між журналами: дехто застосовує програми для звіряння бібліографії та сканування на ШІ-згенерований контент, але рівень контролю дуже нерівномірний. Крім того, не існує простого механізму, щоб ретроспективно просіяти ланцюг доказів і знайти первинні фейкові дослідження або посилання. Поки що небагато журналів здатні виявляти такі галюцинації: аналіз Топаза показав, що на момент аудиту 98,4% робіт із фейковими джерелами не були відкликані видавцями.
Це вписується в те, що в науці називають «кризою відтворюваності», яку в епоху ШІ посилює зростаючий потік марного або ненадійного контенту, що вже пронизує академічну літературу. Подібний механізм працює й в інших сферах, де важлива відтворюваність результатів: газетні матеріали запускають дискусії та стають основою майбутніх розслідувань; судові рішення згодом цитують юристи й науковці в інших справах.
Топаз підкреслив, що сам ШІ не обов’язково є винуватцем, і він охоче застосовує його у власній роботі. «Проблема — це **неперевірений вихід ШІ**, який потрапляє в постійний запис, — сказав він. — Рішення не в тому, щоб перестати користуватися інструментами, а в тому, щоб вбудувати перевірку у робочий процес».
«Що довше ми відкладаємо впровадження перевірок, то складніше потім це очищати», — додав він.
Галюцинації ШІ не залежать від того, наскільки користувач обізнаний у темі. Такі помилки спеціально виглядають правдоподібно — і з часом **краще маскуються**. І що більш відповідальна сфера — медицина, право чи журналістика — то небезпечнішими стають ці збої, якщо їх не зупинити вчасно.
Ця історія спочатку була опублікована на Fortune.com
