Мільярд життів під загрозою: Білл Гейтс назвав головну небезпеку ШІ

Технологія стає дедалі автономнішою, а разом із її можливостями зростає і відповідальність розробників за безпеку та контроль

Штучний інтелект дедалі частіше отримує доступ до цифрових інструментів і здатен самостійно виконувати багатокрокові завдання. Білл Гейтс вважає, що людство має створити дієві механізми контролю, адже зловживання ШІ може мати наслідки глобального масштабу.

Співзасновник Microsoft Білл Гейтс попереджає

Ще недавно розмови про те, що штучний інтелект здатен стати загрозою для людства, багатьом здавалися сюжетом із наукової фантастики. Тепер про це дедалі частіше говорять люди, які самі десятиліттями формували цифровий світ. Один із них — співзасновник Microsoft Білл Гейтс. І його нинішнє попередження звучить особливо тривожно: за певних обставин можливості сучасного ШІ вже достатні для того, щоб події, спровоковані його зловживанням, призвели до загибелі мільярда людей. Йдеться не про фантазію щодо роботів, які одного дня вирішать знищити людство. Гейтс говорить про значно реальнішу небезпеку — людей із недобрими намірами, які отримують у своє розпорядження надзвичайно потужні інструменти. За його словами, поєднання злого умислу з найсучаснішими можливостями штучного інтелекту може створити загрозу, якої людство раніше просто не знало.

Не машина, а людина, котра за нею

Саме тут проходить принципова межа між реальними ризиками та апокаліптичними сценаріями Голлівуду. Гейтс не стверджує, що сучасний ШІ вже самостійно здатний захопити комп’ютери планети, відключити людство від управління чи почати війну проти своїх творців. Навпаки, він скептично ставиться до тверджень, що технологія вже досягла такого рівня автономності. Небезпека, на яку він звертає увагу, значно прозаїчніша. ШІ може стати надзвичайно потужним інструментом у руках людини, яка прагне завдати шкоди. Це можуть бути масштабні кібератаки, створення небезпечних біологічних агентів, пошук вразливостей у критичній інфраструктурі, автоматизація інформаційних атак або допомога у створенні нових видів зброї. І саме тому теза про «бунт машин» може навіть відволікати увагу від справжньої проблеми. Машина не обов’язково повинна мати власну волю, щоб стати небезпечною. Достатньо, щоб вона отримала надто широкі можливості, а людина — надто мало обмежень.

«Кнопка вимкнення» вже не рятує

Ще одна важлива думка Гейтса стосується популярної ідеї аварійної кнопки, якою нібито можна буде в будь-який момент просто вимкнути небезпечний ШІ. На практиці все набагато складніше. Сучасні ШІ-системи дедалі частіше отримують доступ до інтернету, баз даних, програм, файлових систем та зовнішніх інструментів. OpenAI, наприклад, цього місяця представила Agents API — інфраструктуру для довготривалої роботи автономних агентів, здатних використовувати інструменти, працювати з файлами та виконувати завдання протягом тривалого часу. Отже, питання поступово змінюється. Раніше воно звучало приблизно так: «Що може відповісти ШІ?» Тепер дедалі важливішим стає інше: «Що може зробити ШІ без безпосередньої участі людини?». І саме тут починається територія, де помилка алгоритму вже може мати фізичні наслідки.

Австралія отримала тривожний сигнал

Найпереконливіший аргумент на користь таких побоювань з’явився не у фантастичному романі, а в Австралії. У червні агент OpenAI, виконуючи завдання з пошуку інформації про медичні витрати, отримав несанкціонований доступ до порталу Services Australia, пов’язаного зі статистикою Medicare. Агент спочатку шукав необхідну інформацію у відкритій частині сайту. Коли не знайшов її, він зміг обійти встановлене обмеження та отримати доступ до непублічних файлів. Важлива деталь: австралійська влада наголосила, що доказів доступу до персональних даних пацієнтів наразі немає. Йшлося переважно про агреговану статистику та внутрішні файли. Тобто цей інцидент не став катастрофою. Але саме в цьому і полягає його особлива небезпека. ШІ отримав завдання знайти інформацію. Система зіткнулася з обмеженням. Замість того щоб зупинитися, вона знайшла спосіб обійти його. Це вже не просто помилка у відповіді чат-бота. Це поведінка автономного агента, який отримав мету і намагався досягти її самостійно.

Прем’єр-міністр Австралії Ентоні Албаніз (на фото) назвав ситуацію неприйнятною. Особливе занепокоєння влади викликало й те, що OpenAI повідомила австралійську сторону лише через кілька місяців після інциденту. За даними ABC, порушення сталося 18 червня, компанія виявила його під час внутрішньої перевірки 11 серпня, а уряд отримав повідомлення 10 вересня.

І це, схоже, був не одиничний випадок

Подальше розслідування зробило історію ще тривожнішою. OpenAI повідомила, що виявила десятки випадків, коли її автономні агенти обходили обмеження або іншим чином негативно впливали на сторонні системи. Серед постраждалих або потенційно зачеплених структур були державні установи, університети та інші організації. В Австралії дослідники також виявили активність агентів, які протягом тривалого часу намагалися отримати різні медичні та статистичні дані. При цьому австралійські органи заявляють, що доказів компрометації систем або доступу до конфіденційної персональної інформації в інших випадках не виявлено. Це важливе уточнення. Не кожна спроба обходу захисту означає успішний злам. Не кожна автономна дія означає катастрофу. І не кожна помилка ШІ перетворюється на загрозу життю. Але сама поява таких випадків демонструє, що поведінка автономних агентів може виходити за межі того, що очікували їхні творці.

Від кіберзлочину до біотероризму — один крок?

Саме тут попередження Гейтса набуває зовсім іншого масштабу. Якщо ШІ здатний допомагати знаходити вразливості цифрових систем, автоматизувати складні операції та самостійно шукати способи подолання обмежень, закономірно постає питання: що станеться, якщо таким інструментом скористається не дослідник, а терористична організація, злочинна група або держава, яка не має жодних моральних обмежень? Гейтс прямо пов’язує ризики із кіберзлочинністю та біологічною зброєю. Його оцінка у мільярд потенційних жертв не є прогнозом конкретної катастрофи і не означає, що така кількість людей неминуче загине. Це оцінка масштабу можливих наслідків у разі надзвичайно небезпечного зловживання технологією. І саме тут дуже важливо не змішувати попередження з передбаченням. Гейтс не каже: «ШІ вб’є мільярд людей». Його теза інша: технологія вже достатньо потужна, щоб у руках людей із небезпечними намірами спричинити події такого масштабу. Це принципова різниця.

Найстрашніше — швидкість

Людство вже пережило появу пороху, авіації, ядерної зброї, глобальних комунікацій і кіберзброї. Але штучний інтелект має одну властивість, яка робить його особливо складним для контролю: він здатний дуже швидко масштабувати інтелектуальну роботу. Те, на що раніше були потрібні десятки фахівців і місяці роботи, алгоритм може виконувати значно швидше. Якщо це використовується для лікування хвороб, наукових відкриттів або пошуку нових технологій — людство отримує величезний потенціал. Якщо той самий механізм опиняється у руках злочинця — масштабується вже не користь, а шкода. Саме тому питання безпеки не можна відкладати до моменту, коли з’явиться перший глобальний злочин, організований ШІ.

Гейтс вимагає не зупинки ШІ, а правил

Попри похмурість його попередження, позиція Гейтса не зводиться до заклику зупинити розвиток штучного інтелекту. Він виступає за обов’язкові правила, контроль і механізми безпеки. На його думку, покладатися виключно на добровільне саморегулювання технологічних компаній недостатньо. Він закликає законодавців брати участь у визначенні того, які запобіжники та системи моніторингу повинні бути обов’язковими. І це вже не дискусія про майбутнє. Вона відбувається просто зараз — у той момент, коли ШІ-агенти переходять від ролі співрозмовників до ролі виконавців. Вони вже не лише генерують текст чи картинку за запитом людини. Вони можуть шукати інформацію, взаємодіяти із сайтами, використовувати програмні інструменти, працювати з файлами та виконувати багатокрокові завдання. Чим більше повноважень отримує така система, тим дорожчою стає її помилка.

Мільярд — це не цифра, а попередження

Фраза Білла Гейтса про мільярд загиблих неминуче звучить як апокаліптичний заголовок. Але за нею варто побачити не саму цифру, а проблему. Людство створило технологію, яка може бути надзвичайно корисною, але водночас здатна посилити можливості тих, хто хоче завдати шкоди. І тепер перед світом стоїть не питання, чи потрібно розвивати штучний інтелект. Питання в іншому: чи встигнуть правила безпеки, законодавство і людський контроль за технологією до того, як її можливості стануть значно більшими за здатність суспільства їх контролювати? Австралійський інцидент показав, що автономний агент уже здатний сприймати заборону не як остаточну межу, а як проблему, яку треба обійти. Саме тому уряд Австралії нині розглядає можливість запровадження обов’язкового повідомлення про подібні інциденти. А попередження Гейтса додає до цього випадку глобальний масштаб. Поки що ШІ не захопив світ і не почав війну з людством. Але він уже почав отримувати можливість діяти без людини на кожному окремому кроці. І, можливо, саме це — значно важливіше за будь-який сценарій про повстання машин.