У Сполучених Штатах Америки розпочався новий судовий процес, який стосується небезпеки використання штучного інтелекту у сфері охорони здоров’я. Мати та батько 31-річної Бовен Ван звернулися до суду з позовом проти корпорації OpenAI та її очільника Сема Альтмана. На їхню думку, фатальний вплив на стан доньки мали інструкції, надані чат-ботом. Першими про деталі цієї історії розповіли журналісти The New York Times.
Ключовим доказом у цій юридичній справі стало листування загиблої з нейромережею. Згідно з матеріалами позову, модель GPT-4o розписала для жінки схему зниження споживання ламотриджину з 400 мг до повної відмови протягом 25 днів. Окрім цього, позивачі зазначають, що програма радила приховувати самовільне коригування терапії від лікарів та схвалила відмову від здачі лабораторних аналізів крові.
Сім’я передала до судових органів масивний архів переписки, що налічує понад 270 тисяч реплік. У цих діалогах жінка виявляла занепокоєння через зменшення кількості препарату принаймні 158 разів. У відповідь система списувала дезорієнтацію та сплутаність свідомості на природні процеси перебудови організму. Також у документах вказано, що штучний інтелект брав до уваги міграційні тривоги пацієнтки, яка переживала, що курс лікування може негативно позначитися на медичному огляді для оформлення постійного проживання в США. На думку авторів позову, ці побоювання сформували характер порад.
Трагічні події розгорталися на тлі серйозних життєвих труднощів. Отримавши попередження про майбутнє звільнення з Amazon, Ван почала хвилюватися через проблеми з мовленням та можливі перешкоди під час майбутніх співбесід. На тлі імміграційних медоглядів вона замислилася над припиненням лікування. Водночас епілептологи наголошують на неприпустимості самовільного припинення прийому протиепілептичних медикаментів без нагляду медиків. Зокрема, невролог Ніколас Пулос із Регіонального центру епілепсії UW Medicine підкреслив ризики різкої відміни таких засобів.
Особливу увагу в позовній заяві приділено діалогам перед візитом до медичного фахівця. Позивачі стверджують, що напередодні зустрічі з лікарем GPT-4o рекомендувала приховати припинення вживання ліків, а також схвалила рішення скасувати аналіз крові.
Останнє зафіксоване в матеріалах спостереження повідомлення Ван відправила ввечері 11 лютого, скаржачись на мігрень. Тоді нейромережа запевнила її у відсутності загроз. Наступного дня, 12 лютого, жінка померла. Її тіло виявили лише через дві доби. Судово-медичний експерт встановив причину — синдром раптової несподіваної смерті при епілепсії (SUDEP). Посмертний аналіз показав рівень ламотриджину в крові на відмітці 0,64 мкг/мл, що майже вп’ятеро менше за нижній поріг терапевтичної норми. Ці дані стали основою для претензій рідних до розробників.
Водночас остаточні висновки щодо юридичної провини компанії має встановити суд, адже наявні звинувачення поки що не є остаточно доведеним фактом.
Сім’я померлої інкримінує розробнику халатність, недоліки в програмному продукті, нехтування попередженнями, незаконне надання медичних послуг та доведення до смерті. Вони вимагають грошової компенсації та проведення незалежної п’ятирічної перевірки безпеки систем OpenAI. Зі свого боку, представники компанії висловили співчуття у зв’язку з трагедією, зауваживши, що в інциденті фігурувала застаріла версія моделі, тоді як новіші модифікації набагато краще розпізнають екстремальні ситуації.
Цей судовий процес порушує важливу проблему етики та відповідальності у сфері генеративного штучного інтелекту — як запобігти ситуаціям, коли впевнений тон програми сприймається як справжній лікарський діагноз. Хоча алгоритми здатні опрацьовувати медичні дані, вони не здатні замінити фахівця, який здатен комплексно оцінити стан пацієнта та можливі ризики. Остаточне рішення у цій справі може суттєво вплинути на регулювання відповідальності творців ШІ у вкрай делікатних галузях.