Скорочена редакційна версія розмови Езри Кляйна з Біллом Гейтсом для The Ezra Klein Show від 29 вересня 2026 року. Джерело – The New York Times.
Від далекої ідеї до учасника стратегічних обговорень
Езра Кляйн: У 1995 році ви сказали Девіду Леттерману, що комп'ютер, здатний мислити, – лячна ідея, а поступу майже немає. Як ми дійшли до нинішньої розмови?
Білл Гейтс: Сама ідея існувала давно. Алан Тюрінг міркував про машинний інтелект ще до мого народження. Коли 1975 року я залишив Гарвард, то сказав Полу Аллену: якщо в ШІ станеться прорив, поки ми продаємо програми, я, можливо, пошкодую, що не залишився в науці. Багато років дослідження заходили в глухий кут. Нейромережі почали давати результати, коли з'явилися обчислювальні потужності, передусім графічні процесори. Я кинув OpenAI виклик: система мала отримати найвищий бал на поглибленому іспиті з біології. За пів року до публічного випуску моделі керівники OpenAI приїхали до мене додому й показали, як вона впоралася з цим іспитом.
Наприкінці минулого року моделі Claude компанії Anthropic для програмування стали настільки вправними, що я зрозумів: вони пишуть код не гірше за мене. У написанні коду й пошуку в ньому вад вони вже перевершують людей. Вони можуть виконувати тривалі складні завдання. У Фонді Гейтса пропозиція залучити ШІ до обговорення стратегії за рік перетворилася з жарту на реальний план. Остаточні рішення ухвалюватимуть люди. ШІ стане учасником глибоких стратегічних обговорень.
Кляйн: Чому перспектива комп'ютера, здатного мислити, лякала вас уже тоді?
Гейтс: Кожен, хто прагне створити ШІ, розуміє, наскільки страшною може бути система, розумніша за нас. Біологічний мозок дивовижно універсальний, але інтелект на кремнієвих чипах не має ні властивих біологічному мозку обмежень пам'яті, ні бар'єрів між окремими істотами. ШІ вже здатен читати медичні публікації та зіставляти більше симптомів, ніж людина може втримати в пам'яті, особливо коли йдеться про рідкісні хвороби. Якщо ми не збережемо контроль, то можемо створити інтелект, який буде для нас тим, чим ми є для собак чи котів.
Представники провідних лабораторій кажуть, що після досягнення небезпечних порогів не можна керуватися лише прибутком. Але такі механізми працюють, лише коли компанія одна. А компаній багато, і вони змагаються. Якщо одна лабораторія приховає потужну розробку, інші можуть створити її самостійно.
Яку загрозу Гейтс вважає найближчою
Кляйн: Керівник Nvidia Дженсен Хуанг сказав мені, що самій компанії вигідно не випускати небезпечний продукт. Чому цього недостатньо?
Гейтс: У нас ніколи не було продукту, можливості якого ми розуміли б настільки погано. Уже сьогодні ШІ може допомогти біотерористу вбити сотні мільйонів людей або здійснити кібератаку, яка порушить облік банківських рахунків і відключить електромережу. Ми знаємо, що такі можливості існують. Це окрема й ближча загроза, ніж ризик того, що колись сам ШІ почне діяти проти наших інтересів. Пороги у сфері кібербезпеки та біології ми перетнули на початку цього року. Тому я говорю про це публічно: зараз для мене це важливіше навіть за роботу Фонду Гейтса у сфері охорони здоров'я.
Системи ШІ знаходять уразливості в програмному коді, яких люди не помічали десятиліттями. Проєкт Glasswing компанії Anthropic передбачав надати потужну модель обмеженому колу фахівців, щоб ті встигли виправити помилки до можливого зловживання. Але коду забагато, щоб швидко усунути всі вади. У біології здатність створювати нові молекули допомагає медицині, проте її можна використати й зі злою метою. Можливості, для яких раніше були потрібні ресурси держави, тепер уже опинилися в руках невеликої групи людей.
Кляйн: Якщо компанія випустить систему, яка допоможе спричинити катастрофу, на неї чекають позови й репутаційні втрати. Є також фільтри небезпечних запитів. Навіщо додаткові заходи?
Гейтс: Мені важко повірити, що ви взагалі про це питаєте. Це найнебезпечніше, до чого людство будь-коли наближалося. Ми не покладаємося лише на судові позови, коли йдеться про безпеку ліків, літаків чи автомобілів. До того ж у відкритій моделі можна вимкнути моніторинг. Яка користь від позову, коли вже загинули мільйони? Саморегулювання галузі недостатньо. Питання в тому, чи запровадимо ми обов'язкові запобіжники зараз, чи чекатимемо великої кібератаки або біологічної атаки.
Кляйн: Мене непокоїть, що розумніші моделі може бути складніше контролювати, вони можуть розуміти, що їх тестують, а лабораторії поспішають створити системи, які допоможуть удосконалювати наступні покоління ШІ. Наскільки ви впевнені в наших можливостях їх перевіряти?
Гейтс: Втрата контролю – серйозна проблема. Потрібен механізм нагляду з чіткими заборонами: наприклад, не можна захоплювати інші комп'ютери чи самостійно виходити в інтернет. Але найнагальніша загроза – використання людьми вже наявних потужних систем на шкоду іншим. Держави не брали участі в розробленні й закупівлі цих інструментів так, як це було з ракетами чи ядерною зброєю, і недостатньо розуміють небезпеку.
Кляйн: Із чого слід почати?
Гейтс: Вимагати запобіжників і моніторингу в усіх моделях. Відрізнити корисний біологічний запит від небезпечного складно. Якщо фільтри надто суворі, дослідники можуть перейти до систем зовсім без захисту. Але залишати потужні моделі в середовищі без нагляду теж небезпечно. Потрібна дієва система контролю.
Суспільна розмова, якої не відбулося
Кляйн: У попередніх текстах ви були впевненіші в тому, що ризиками ШІ можна керувати. Що змінилося?
Гейтс: Ми завжди казали: коли перетнемо небезпечні пороги, до обговорення долучиться все суспільство. Ми їх перетнули – і поза індустрією запала цілковита тиша. Люди сперечаються про заяви окремих компаній, а університети, аналітичні центри й політики не реагують відповідно до масштабу загрози. Саме поєднання небезпечних можливостей і відсутності серйозної відповіді змушує мене говорити так голосно.
Кляйн: Політики все ж обговорюють ШІ. Дехто вважає, що перемога в гонці з Китаєм і вільний доступ до відкритих моделей важливіші за обмеження. Вони цим займаються, просто не погоджуються з вами.
Гейтс: Вони не займаються саме цими ризиками. Обов'язковий моніторинг істотно не сповільнить розроблення. Відкриті моделі могли б залишатися гнучкими, але працювати на платформах, де не можна просто прибрати захист. Нам кажуть: інакше переможе Китай. Я не розумію, що означає "перемогти", коли обидві країни вже відкрили скриньку Пандори. Варто перевірити, чи готовий Китай співпрацювати задля захисту всього людства.
Праця, податки й професії, залишені людям
Кляйн: Ви вважаєте, що ШІ масово витіснить працівників. Чому, якщо попередні технології часто створювали нові робочі місця?
Гейтс: Поки що ШІ створив більше робочих місць, ніж знищив. Для будівництва центрів обробки даних і розроблення самих систем потрібні люди. Але заміна працівника залежить від надійності технології. У програмуванні цей поріг уже подолано. Найближчими роками це станеться з бухгалтерією, юридичною роботою, телефонними продажами й підтримкою клієнтів. Сервіси ШІ доступні цілодобово, розмовляють багатьма мовами й нічого не забувають. Коли клієнти почнуть надавати їм перевагу, а конкуренти зможуть виконувати всю роботу значно дешевше, роботодавцям знадобиться менше людей. Згодом людиноподібні роботи витіснятимуть людей і з фізичної праці.
Кляйн: Здешевлення інтелектуальної праці може породити новий попит. Медичні помічники на основі ШІ могли б спрямовувати більше людей до лікарів і медсестер. Невеликі команди могли б дозволити собі програми, для яких раніше знадобився б інженер. Чому це не компенсує втрат?
Гейтс: У деяких сферах так і відбувається, а зайнятість у розробленні програм поки не скоротилася. Але коли з'явилися шини, що служили вчетверо довше, люди не стали їздити вчетверо більше. Коли на складах людей замінюють роботами, люди не починають купувати більше. Якщо ШІ виконує все завдання, додатковий попит перетворюється на витрати на обчислення, а не на зарплати. Я не бачу нової великої сфери зайнятості, куди могли б перейти люди, коли людське мислення перестане бути дефіцитом.
Кляйн: Люди вже переходили з промисловості до сфери послуг. Деякі економісти очікують зростання зайнятості в професіях, де важливі людські стосунки. Але навіть якщо вони з'являться, незрозуміло, як упоратися з таким швидким переходом. Громади, які постраждали від торговельного шоку, пов'язаного з Китаєм, – тривожний приклад.
Гейтс: Скажіть 55-річному водієві вантажівки, що тепер йому треба працювати там, де головне – спілкування з людьми. У вас є для нього програма?
Кляйн: Ви пропонуєте оподатковувати працю ШІ. Як це можна було б реалізувати?
Гейтс: У США працівники роблять внески до пенсійної системи Social Security. Якщо компанія замінила працівника роботом, чому за робота не платять такий самий внесок? Визначте одиницю праці й стягуйте однаковий податок на фонд оплати праці незалежно від того, виконує її людина чи машина. Самого цього замало, але нинішні податки заохочують заміну людей. Суспільство може обрати інакше, навіть якщо автоматизація дешевша.
Кляйн: А що ви маєте на увазі, коли говорите про робочі місця, "залишені людям"?
Гейтс: Ми можемо заздалегідь вирішити, що в догляді за дітьми й літніми людьми, у частині медицини та освіти зберігаємо роботу для людей, хоча ШІ їм і допомагатиме. Це стане особливо важливим, якщо універсальні роботи зможуть виконувати фізичну працю.
Чому Гейтс усе одно хоче впроваджувати ШІ в бідних країнах
Кляйн: Така картина втрати робочих місць лякає. Водночас ваш фонд хоче дати інструменти ШІ рідними мовами мільярдам людей, які сьогодні не можуть ними повноцінно користуватися. Навіщо прискорювати поширення технології, якщо ви боїтеся її впливу на зайнятість?
Гейтс: Тому що там, де ринок залишив людей без допомоги, ШІ здатен принести величезну користь. Уявіть жінку у віддаленому районі Нігерії. Вона розмовляє мовою йоруба й не може звернутися до лікаря. Сьогодні ШІ допомагає їй значно гірше, ніж англомовній людині. Можливість описати проблему зі здоров'ям рідною мовою й отримати допомогу через телефон з інтернетом дуже важлива. Фонд також працює в освіті та сільському господарстві.
Кляйн: У таких країнах, як Філіппіни, ШІ може знищити шлях до розвитку, замінивши робочі місця у сфері послуг?
Гейтс: "Глобальний Південь" – не єдина економіка. Країни із середнім рівнем доходу, як-от Бразилія, В'єтнам та Індонезія, перебувають в іншому становищі, ніж найбідніші держави, де дитяча смертність набагато вища й людина може за все життя жодного разу не побачити лікаря. Для останніх ШІ принесе переважно користь, і його впровадження слід прискорювати. Спочатку наслідки для ринку праці відчують багаті країни, потім держави із середнім доходом і згодом – бідні. Якби ці діти жили на вашій вулиці, ви б відкрили гаманець. Ця нерівність зберігається лише тому, що вони далеко.
Кляйн: Якщо люди повірять вашому прогнозу щодо роботи, багато хто вимагатиме взагалі зупинити розвиток ШІ. Кому тоді ця технологія вигідна?
Гейтс: Це радше еволюційний перелом, ніж черговий етап розвитку персональних комп'ютерів. Наче прибульці вже тут: вони з'явилися в лабораторіях, а не прилетіли на космічних кораблях. Якщо ми збережемо контроль, зрештою можемо досягти надзвичайного достатку: без смертей від малярії, без нестачі їжі й без труднощів із доступом до лікаря. Тоді постануть глибокі питання про сенс життя і навчання, але вони відрізняються від проблеми смертей, яким можна запобігти вже сьогодні. Нашому поколінню доведеться пройти перехід, який, імовірно, триватиме понад 20 років. Потрібно зберегти контроль, звести до мінімуму кількість біотерористичних атак і шкоду для людей, які втратять роботу.
Користь може прийти пізніше за шкоду
Кляйн: Чому люди повинні миритися з найближчими ризиками, якщо матеріальні переваги дістануться їм значно пізніше?
Гейтс: Цей часовий розрив мене непокоїть. За 20 років ШІ забезпечить разючі досягнення у виробництві харчів, житловій сфері, медицині й освіті. Але ці сфери регулюються та існують у фізичному світі. Кібернетичні й біологічні ризики, психосоціальні наслідки та проблеми із зайнятістю будуть серйозними вже протягом найближчих п'яти років. Людям доведеться вирішувати, сповільнювати чи зупиняти розроблення. Просте блокування центрів обробки даних нічого не змінить: їх збудують деінде. Потрібна ширша розмова.
Кляйн: Модель розвивається в цифровому світі набагато швидше, ніж ліки проходять випробування чи сонячна електростанція отримує дозволи. Користь для повсякденного життя залежить від повільних інституцій, а багато небезпек – ні.
Гейтс: Потрібно прискорювати й корисне застосування. Фонд може допомагати регуляторам краще працювати. Сільськогосподарські програми вже швидко розвиваються: понад мільйон фермерів в Індії користуються системою, яка радить, як боротися з хворобами рослин, які добрива й сорти обирати. У бідних країнах доступ часто залежить не так від регулювання, як від телефонів, зв'язку, вартості обчислень і підтримки місцевих мов. Варто вчитися на досвіді різних країн. Якщо користь запізниться, а запобіжників так і не буде, суспільству стане важко підтримувати розвиток ШІ.
Епштейн, благодійність і робота фонду
Кляйн: Дізнавшись про ваші контакти з Джеффрі Епштейном, деякі слухачі стали менше вам довіряти. Що ви їм відповісте?
Гейтс: Нехай прочитають мої свідчення в Конгресі. Я зустрічався з ним, бо думав, що він познайомить мене з мільярдерами, готовими фінансувати глобальну охорону здоров'я. Спілкуватися з ним було очевидною помилкою. Я змінив вимоги до людей, яких залучаю навіть як неоплачуваних посередників, бо наша робота залежить від довіри.
Кляйн: Чому він здавався корисним вам та іншим людям?
Гейтс: Я відкидаю уявлення, ніби належав до його кола спілкування. Я не бував на його острові й не знайомився через нього з жінками. Він організував мені зустрічі з п'ятьма мільярдерами, але жоден не збирався робити внесок найближчим часом; протягом місяця після цих зустрічей я припинив контакти з ним. Він мав найрозкішніший будинок, який я бачив у Нью-Йорку, і там бували такі люди, як Ларрі Саммерс. Як йому це вдалося, я не знаю.
Кляйн: Як ШІ та скорочення допомоги іншим країнам змінюють плани фонду?
Гейтс: ШІ може прискорити пошук ліків і нових сортів рослин, допомогти передавати людям корисні поради. Він здатен наблизити викорінення малярії та поліомієліту й скоротити дитячу смертність. Водночас ресурсів для допомоги найбіднішим людям поменшало. Нові пожертви, пов'язані з ШІ, не компенсують скорочення американської допомоги іншим країнам. Серед наших практичних проєктів із ШІ – підтримка африканських мов.
Освіта, діти й політичні завдання на найближчі роки
Кляйн: Ви багато років намагаєтеся покращити освіту. Де ШІ допоможе, а де може зашкодити?
Гейтс: У сфері глобального здоров'я фонд досяг значно більшого поступу, ніж в освіті. Цей успіх мене здивував, а щодо освіти я й далі наполегливий. У світі дитяча смертність скоротилася більш ніж удвічі, а результати навчання в багатьох багатих країнах погіршилися. У деяких школах Нью-Йорка система наприкінці дня ставить учням кілька запитань і відразу показує вчителям, які теми потребують уваги. Перші результати обнадіюють, але історія освіти сповнена невеликих експериментів, що не дали ефекту після розширення. ШІ може пристосовувати навчання до кожного учня й знаходити спосіб його зацікавити. Я справді вірю, що ми зможемо використати це, щоб зменшити розрив між дітьми.
Кляйн: Я боюся, що учні передадуть ШІ читання, письмо й розв'язування задач. За деякими даними, домашні роботи стають кращими, а результати тестів без допомоги ШІ погіршуються. Зусилля, подолання труднощів і робота над чернеткою – частина навчання.
Гейтс: ШІ може зробити учня лінивим, а може допомогти йому дізнатися значно більше. Для мене самого зараз найкращий час у житті, щоб учитися. Я обговорюю із ШІ відео й наукові питання, а коли рішення особливо важливе, звертаюся до фахівця. Усе залежить від мотивації та будови інструмента.
Кляйн: Чи потрібні суворіші обмеження для дітей, зокрема щодо спілкування із ШІ й допомоги у списуванні?
Гейтс: Не думаю, що потрібна повна заборона. Можна створювати системи, які допомагають учневі крок за кроком знайти відповідь, а не видають її одразу. Потрібен і моніторинг. Батькам маленької дитини, можливо, варто бачити всю її розмову із системою. Але старшим дітям потрібна й певна приватність, зокрема в питаннях сексуальної ідентичності. Ці межі треба ретельно визначати. На практиці батьківський контроль часто не працює: я сам не знав, що моя донька має другий телефон, з якого пізно вночі заходила в соцмережі.
Кляйн: Яким був би політичний успіх упродовж найближчих двох років?
Гейтс: По-перше, запобіжники, що зменшують кібернетичні й біологічні ризики. По-друге, серйозна суспільна розмова. Якщо одна партія стане просто прихильницею ШІ, а друга – противницею, ми можемо повторити поляризацію навколо зміни клімату. Зараз надто мало простору для обговорення того, як керувати цією технологією.
Кляйн: А якщо майбутня адміністрація відновить американську допомогу іншим країнам?
Гейтс: Американці часто думають, що частка бюджету на допомогу бідним країнам набагато більша за реальну. Вона становила близько половини відсотка, а тепер зменшується до чверті відсотка. Люди мають знати, чого вдалося досягти навіть за ці невеликі кошти в боротьбі з ВІЛ, малярією і туберкульозом, а також в охороні материнського здоров'я. Моральний аргумент доведеться відстоювати на тлі державного боргу й нових витрат на підтримку працівників, які постраждають від ШІ.
