1

У сфері розвитку штучного інтелекту є розрив між тим, про що повідомляють ЗМІ, і тим, як йдуть справи насправді

Сучасний ШІ, за всіх своїх досягнень, дуже вузький, він припускається помилок там, де в людини немає ніяких труднощів. Так, безпілотні автомобілі можуть успішно проходити випробування на автомагістралях, але не на міських вулицях, де в рух постійно втручається чинник невизначеності. Численні прогнози про появу в найближчому майбутньому інтелектуальних лікарів-роботів, чат-ботів, здатних зрозуміти будь-які потреби людини, автономних транспортних засобів, здатних їздити будь-якими дорогами, автори вважають поки що фантазіями. ЗМІ роздмухують ажіотаж і лякають швидкою перспективою безробіття для більшості людей, але реальний стан справ у сфері розроблення ШІ далекий від таких прогнозів. Використовуваним системам ШІ все ще потрібен контроль із боку людини, вони роблять помилки там, де може розібратися навіть неспеціаліст.

Великі надії покладали на систему IBM Watson, використовувану для діагностики захворювань. Однак у процесі експлуатації з’ясувалося, що низка рекомендацій системи виявлялася небезпечною і неправильною, ефективність системи розчаровувала її замовників, частина яких відмовилися від неї.

На думку авторів, відірваність від реальності характерна як для оптимістичних прогнозів, так і для песимістичних. Великий внесок у це роблять ЗМІ, які підносять скромний прогрес як неймовірний прорив, привертаючи увагу та лякаючи своїх читачів. Але варто тільки розібратися, яка саме інформація ховається за гучним заголовком або пресрелізом, як стає зрозуміло, що справа йде зовсім не так, як її намагаються уявити.

Це не означає, що у сфері досліджень ШІ немає реального прогресу. Чудові досягнення отримано в таких галузях, як розпізнавання зображень і мови, управління і доставка вантажів дронами. В основі успіху сучасних систем ШІ лежать два чинники: підвищення обчислювальної потужності апаратного забезпечення і значне збільшення бібліотек даних. Глибоке навчання — це спеціальний статистичний механізм, алгоритм для збору даних. Глибоке навчання демонструє великі успіхи в низці практичних завдань, як-от розпізнавання образів і мовлення, прогнозування, діагностика, чим і викликаний ажіотаж довкола цієї сфери, боротьба за спеціалістів у ній і величезні інвестиції. Прогрес у ШІ, який ми спостерігаємо сьогодні, це насамперед прогрес у глибокому навчанні. Однак лише його недостатньо для того, щоб створити штучний інтелект, подібний до людського.

ШІ перемагає людину в іграх, але гра — це закрита система, а не життя. У грі всі правила чітко позначені, ходи можна прорахувати. У тому, що в таких умовах ШІ обходить нас, немає нічого дивного, адже в нього набагато більша обчислювальна потужність. Щоб ШІ зміг мислити так само гнучко, як людина, потрібен фундаментальний зсув і перегляд наявної парадигми. Попри всі багатомільярдні вливання поки що в цій сфері немає справді значущого прогресу, вважають автори. Галас у ЗМІ лише змушує переоцінювати можливості штучного інтелекту.

Головна проблема ШІ — відсутність гнучкості, його крайня вузькість, яка виражається в придатності до вирішення дуже специфічних завдань. Навіть такий гігант, як Google, зміг створити лише вкрай вузькоспеціалізовану систему Google Duplex для здійснення телефонних дзвінків. При всіх ресурсах продукт компанії міг лише бронювати столики в ресторанах. Попри те що прогрес не стоїть на місці й подібні системи однозначно будуть удосконалюватися, для того, щоб створити справді інтелектуальну систему з розумінням завдань і здатністю виконувати широкий їх спектр, потрібен інший підхід, не такий вузькоорієнтований. Автори вважають, що наявні сьогодні підходи не дадуть змоги подолати цей технологічний розрив і створити ШІ, який діятиме у відкритій системі, подібно до людини.

Між оптимістичними прогнозами щодо ШІ та реальністю є величезний розрив, який виражається в трьох невирішених проблемах.

Перша — легковір’я, або фундаментальна помилка оцінки справжності. Люди наділяють ШІ людськими якостями й невірно оцінюють його здібності.

Друга проблема — ілюзія швидкого прогресу. Швидкий прогрес у розв’язанні легких проблем не дорівнює прогресу в розв’язанні складних проблем. Те, що комп’ютер обіграє людей в інтелектуальні ігри, не означає, що він розумніший за людей. В іграх немає неповноти даних, які характерні для звичайного життя, дії в іграх істотно відрізняються від тих ситуацій, з якими ми стикаємося в реальному житті.

Третя проблема — переоцінка надійності. Захоплені успіхами ШІ в одних сферах, ми екстраполюємо ці успіхи на всі. Ми вважаємо, що якщо безпілотне авто успішно їздить магістраллю, то це означає, що після доопрацювання воно так само успішно показуватиме себе на міських вулицях. Однак між двома цими здібностями лежить технологічна прірва. Поки що рівень надійності наявних систем ШІ залишає бажати кращого.

2

Сучасний підхід, орієнтований на великі дані, не призводить до фундаментального прориву

Основна проблема в тому, що домінуючий підхід означає орієнтацію на вузький ШІ та все більші набори даних. У результаті з’являється багато рішень розв’язання приватних проблем, які можуть виглядати вражаюче, але вони не здатні привести до кардинальних проривів. Сучасний ШІ, за висловом авторів, є сліпим рабом даних. І що більше ми покладаємося на такі системи, вважаючи їх інтелектуальними, то до небезпечніших наслідків це може призводити.

У 2016 році компанія Microsoft випустила бота Тау, який, після недовгого спілкування з користувачами, став публікувати антисемітські та сексистські повідомлення. Проблема, що виникла з ним, може слугувати прикладом того, як легко обдурити подібні системи. Їхні помилки можуть бути як неприємними, так і смертельно небезпечними, коли, наприклад, автопілот не помічає очевидну для людини перешкоду на трасі або коли алгоритми поширюють дезінформацію.

На поточний момент основна небезпека систем штучного інтелекту полягає не в тому, що вони захоплять владу й поневолять нас, а в тому, що вони занадто ненадійні, хоча ми все частіше на них покладаємося. Ба більше, на думку авторів, питання про захоплення влади машинами переоцінене, оскільки в машин немає людської мотивації, цілей і бажань.

Якщо ми хочемо отримати ШІ, на який можемо покладатися, нам, зокрема, необхідно розв’язати проблему занадто буквального розуміння системами завдань. Ми говоримо «Прибери всі речі до шафи» іншій людині, і вона розуміє, що не потрібно прибирати до шафи меблі та побутову техніку, але роботи розуміють усе буквально, у них відсутній здоровий глузд.

Автори виділяють кілька проблем сучасного ШІ, що спричиняють найбільші побоювання.