Чат-бота варто розглядати не як машину, що все знає, а як «другого пілота»

Хоча ChatGPT-4 та інші великі мовні моделі (LLM) не мають свідомості, їхня здатність видавати цілком осмислені та зв’язні відповіді з урахуванням різних контекстів покращується так швидко, що може здаватися, що вони мають інтелект, подібний до людського, а то й такий, що перевершує його. Під час опису LLM допустимо використовувати такі слова, як «знання» і «розуміє», але не в буквальному сенсі. LLM роблять помилки та змінюють свою «думку», що змушує людей відчувати, що в цих інструментів є свобода дій. Однак важливо мати на увазі, що LLM не є свідомими істотами, і розуміти, як, коли й де їх можна використовувати.

ChatGPT-4 та інші LLM передбачають мовні потоки через розпізнавання поширених зв’язків між окремими смисловими одиницями, навчаючись на величезних масивах даних, узятих із загальнодоступних інтернет-джерел. LLM можуть генерувати відповіді на запити користувачів, які відповідають контексту, коректні з лінгвістичного та фактичного поглядів. Однак вони також можуть генерувати відповіді, що містять фактичні помилки, явно безглузді висловлювання або вигадані уривки, які можуть здаватися доречними в контексті, але не мають під собою реальної основи (це стали називати «галюцинаціями»). Генеруючи відповідь, LLM не аналізують, наскільки вона відповідає фактам і етичним нормам, а роблять алгоритмічні припущення про те, що написати у відповідь на послідовність слів у запиті. Тому великі мовні моделі, такі як ChatGPT-4, можуть створювати небажаний контент через упереджений матеріал у даних, на яких вони навчаються. Розробники можуть вжити заходів, як-от видалення образливого контенту з наборів даних, розробка класифікаторів токсичності для позначення проблемних формулювань і точне налаштування LLM з використанням анотованих наборів даних. LLM не володіють розумінням, подібним до людського, вони можуть робити тільки статистичні прогнози про те, яким має бути наступне слово в тексті. Якщо поставити ChatGPT запитання про те, яким було п’яте речення Геттісберзької промови Лінкольна, він може видати у відповідь інше речення — те, що найчастіше цитується. Водночас LLM з легкістю виконують те, що ми називаємо творчими завданнями, наприклад, ChatGPT може перетворити Геттісберзьку промову на текст пісні відомої рок-групи.

Розробка потужніших інструментів штучного інтелекту посилює побоювання через потенційне скорочення робочих місць, зокрема в таких сферах, як служба підтримки клієнтів і юриспруденція. Нещодавні досягнення ChatGPT-4, як-от складання іспитів із медицини та права, демонструють когнітивну майстерність інструментів штучного інтелекту. що зростає. Однак важливо зазначити, що LLM, як і раніше, є симуляціями людської свідомості, а не свідомим, самосвідомим, розумним штучним інтелектом. Проте широке поширення таких моделей пов’язане зі значною невизначеністю щодо ринку праці та впливу на людську ідентичність.

Є думка про те, що мовні моделі, як-от ChatGPT, не можуть бути по-справжньому творчою силою, тому що вони лише «перепаковують» інформацію». Однак водночас не беруться до уваги синтетичні можливості мовних моделей. Перепакування наявної інформації є поширеною формою людських інновацій, а мовні моделі володіють принципово новими можливостями організації знань, які можуть допомогти людям у їхній роботі та творчості. Мовні моделі можуть допомогти відповісти на конкретні запитання або дати короткий огляд ширших тем.

ChatGPT-4 — це велика мовна модель, що має здатність отримувати доступ до інформації в інтернеті та синтезувати її в суттєво інший спосіб, відмінний від інформаційних ресурсів, таких як Вікіпедія, і традиційних пошукових систем. Однак ChatGPT треба розглядати як інструмент, а не як джерело істинних знань або авторитет. Це складна статистична система, яка може генерувати тексти на основі великого масиву навчальних даних, але це не означає, що вона розуміє, обґрунтовує або відображає значення, контекст або наслідки того, що вона генерує. LLM можуть значно розширити можливості людини, однак їхнє використання також пов’язане з ризиками та створює етичні дилеми для суспільства, культури й цінностей. Користувачі мають бути обізнані не лише про переваги таких моделей, а і про їхні обмеження, ставитися критично до відповідей чат-ботів, не сприймаючи їх як істину. Ставтеся до таких моделей не як до машин, що все знають, а як до інструментів, до помічників, що підсилюють людські здібності, «других пілотів». Саме люди мають перебувати в центрі нового світу, а LLM вимагають обережного ставлення. Як і у випадку з іншими інноваціями, на шляху розвитку LLM будуть помилки, заборони, коригування курсу, але ця технологія має унікальний потенціал для масштабних позитивних змін, тож зрештою вона змінить світ.

Великі мовні моделі можуть трансформувати освіту

Автор розповідає про професора Техаського університету в Остіні Стівена Мінца, популярного серед студентів викладача, якій включив використання ChatGPT у свої методи навчання. Попри свій багаторічний досвід успішного викладання, Мінц захотів використати новий інструмент і запропонував своїм студентам писати есе спільно з ChatGPT. Він розглядає чат-бот як інструмент, що допомагає його студентам вчитися, а не як заміну навчанню. Використання ChatGPT та інших нових технологій в освіті вимагає впевненості в тому, що значить бути людиною, і що вища освіта має готувати випускників до найбільш ефективного використання цих інструментів, а також випускати таких фахівців, які можуть робити те, чого не можуть інструменти штучного інтелекту. Люди зможуть процвітати в епоху ШІ, якщо спеціалізуватимуться на вмінні ставити хороші запитання, здобувати знання або навички, яких немає в даних, на яких навчаються системи ШІ, і перетворювати ці знання на дії.

Автор також розповідає про досвід учительки англійської мови, на ім’я Чері Шилдс, яка використовувала ChatGPT у своєму класі. Шилдс стверджує, що замість того, щоб забороняти цей інструмент, учителям треба використовувати його можливості для поліпшення методів навчання. Штучний інтелект може допомогти учням генерувати ідеї, надавати зворотний зв’язок, шаблони або начерки. Шилдс визнає побоювання щодо плагіату, але стверджує, що використання ChatGPT вимагає від учнів працювати по-іншому, змінюючи підхід, а не знижуючи вимоги. Вона закликає викладачів переглянути своє розуміння того, що таке допомога, а що — обман, і розглянути можливість включення використання LLM у навчальну програму.

Автор також проводить паралель між появою калькуляторів у середині 1970-х років і поточними дебатами навколо використання нових інструментів, таких як ChatGPT, в освіті. У 1980 році, після палких дискусій, Національна рада вчителів математики рекомендувала використовувати калькулятори в програмах із математики на всіх рівнях навчання. Сьогодні калькулятори вважаються найважливішою частиною навчання і дозволені до використання в деяких тестах, попри неприйняття, яке вони викликали раніше. Автор запитав ChatGPT-4, чи схожа роль великих мовних моделей на роль калькуляторів і пошукових систем у змінах підходів до навчання. GPT-4 частково погоджується, вказуючи, що, хоча великі мовні моделі можуть виконувати завдання, які раніше виконували люди, і змінювати те, які навички цінуються в навчанні, вони відрізняються тим, що видають результати, що ґрунтуються на засвоєних шаблонах та ймовірностях, і потребують інтерпретації та перевірки.