Штучному інтелекту треба вселити страх смерті

Відсутність почуття смертності суттєво обмежує розвиток штучного інтелекту. З іншого боку, прилаштувати йому таку рису може бути небезпечним. Для нас

Відсутність почуття смертності суттєво обмежує розвиток штучного інтелекту. З іншого боку, прилаштувати йому таку рису може бути небезпечним. Для нас.

Це не означає, що штучний інтелект тепер є глупим. Він вже багато чого вміє.

В 1997 році суперкомп'ютер IBM Deep Blue переміг тодішнього чемпіона світу з шахів Гаррі Каспарова. З точки зору комп'ютера це не було надто складно. Машина мала перевагу в цій грі завдяки блискавичному аналізу можливих ходів і потенційних їхніх наслідків. Достатньо було доброго алгоритму і швидкого процесора.

Інша річ – китайська гра Ґо з чотирьохтисячолітньою історією. Тут маємо 208 168 199 381 979 984 699 478 633 344 862 770 286 522 453 884 530 548 425 639 456 820 927 419 612 738 015 378 525 648 451 698 519 643 907 259 916 015 628 128 546 089 888 314 427 129 715 319 317 557 736 620 397 247 064 840 935 можливих комбінацій.

Це число має 171 цифр у десятковому записі. Оцінка всіх атомів у всесвіті виражається числом з «ледве» 80 цифр. Протягом багатьох років здавалося, що цифрових інструментів недостатньо, щоб перемогти тут людину – потрібна також інтуїція форми, сили або напряму гри, властива тільки найбільшим майстрам. Інтуїція, яку важко докладно описати і перевести в алгоритми.

Але в 2016 році AlphaGo, програма штучного інтелекту DeepMind, з великою перевагою перемогла Лі Седола, корейського чемпіона світу з Ґо.

Інші цифрові мізки DeepMind перемагають нині людей у комп'ютерних іграх – від старої продукції на Atari до Starcraft.

Так само Libratus, програма штучного інтелекту з Університету Карнегі-Меллона, увійшла в історію, перемагаючи чотирьох найкращих у світі професійних покеристів у 20-денному марафоні в Rivers Casino в Пітсбурзі. Показала, зокрема, своє вміння... блефувати.

Є значно більше прикладів. Наприклад, GPT-2 – відточений на написання текстів штучний інтелект, навчений незалежною некомерційною організацією OpenAI, акціонерами якої є, зокрема, Елон Маск і Майкрософт. Він прочитав усе, що міг, в книжках та інтернеті. Він відстежує твіттер, фейсбук та реддіт і здатний підробити стиль будь-якого автора. Він дописав продовження "Володаря перснів" і доповнив подальшими розділами "1984" Орвелла.

Словом, GPT-2 вміє продукувати як видатну літературу чи бездарну макулатуру, так і фахові політичні коментарі.

Досить підкинути йому одну фразу, і він розвиває розповідь відповідно до стилю оригіналу. Коли йому замовили текст про брекзіт, він навів висловлювання лідера опозиційної Лейбористської партії Джеремі Корбина, прессекретаря прем'єрки Терези Мей та процитував "минулотижневу промову королеви". Все придумане.

Згадку про виявлене в невідомій долині в Андах стадо єдинорогів він розвинув у солідний матеріал, що містить посилання на еволюційну біологію і порівняльні дослідження ДНК.

Це ще не все.

Алгоритми штучного інтелекту ідентифікують ракові клітини в тканинних препаратах краще, ніж епідеміологи; вони здатні прогнозувати гіпоглікемічну кому у діабетика на три години перед цим, на основі зображень сітківки вони виявляють майже бездоганно діабетичну ретинопатію. Крім того, вони перекладають, малюють, складають, проєктують, успішно грають на біржі...

Штучний інтелект без мотивації до життя

Штучний інтелект стає щораз досконалішим і перемагає наш мозок у все новіших і новіших сферах – там, де ми вважали, що матимемо цілковиту перевагу над машинами.

Ніщо людське йому не чуже? Аж ніяк. Бо ж він не знає болю, чужий йому і страх смерті – основне людське відчуття. Чи це зле?

Як стверджують поведінкові неврологи Антоніо Дамазіо і Кінґсон Ман у статті, опублікованій в жовтні на сторінках «Nature Machine Intelligence», саме ця відсутність почуття смертності істотно обмежує розвиток штучного інтелекту.

«Нинішнім роботам не вистачає почуттів, – пишуть дослідники. – Вони не спроєктовані на представлення внутрішнього стану своїх операцій таким чином, щоби могли зазнати цей стан у ментальному просторі».

Простіше кажучи – вони не рефлексують про себе, не гризуться справністю свого апаратного забезпечення, тобто сурогатом організму, належною температурою довкілля, охолодженням чи хоча би своїм живленням. За них це робимо ми, люди.

А прецінь всі живі організми, від водоростей до котів, щоби вижити, мусили навчитися дбати про баланс всередині своїх тіл – про артеріальний тиск, температуру, насиченість киснем, рівень цукру etc. Так діє еволюція, роблячи прагнення вижити основною рушійною силою прогресу.

Піклуватися про себе – про власну температуру, рівень голоду, кількість сну і тому подібне – є ключовим елементом того, що надає життю якийсь сенс. І є рушієм самовдосконалення.

Цією силою, яка сформувала знаний нам світ, наші розумні машини користуватися не можуть. На даний момент єдиними рушіями їхнього самовдосконалення є ми – їхні творці. Але як довго ми ще будемо спроможні пропонувати машинам поступ?

Тим більше, що в багатьох царинах це творіння (робот) поступово перевершує людину – його творця?

Тому, щоб уможливити їхню подальшу еволюцію, Мен і Дамізіо пропонують обладнувати машини штучним відповідником почуттів і здатністю відчувати загрозу для власного існування, що мало би стати для роботів додатковою мотивацією розвитку.

Вразливе авто і пилосос

По суті, немає тут нічого нового. Машина із зачатками відчуття власного здоров'я стоїть у моєму гаражі – вона відмовилася покинути свій притулок і виїхати в місто, коли нині зранку діагностувала в собі надто низький рівень оливи і, демонструючи інстинкти самозбереження, вимкнула двигун.

Отже, у чому має полягати революція?

Автомобіль має тільки прості датчики, які показують виявлені помилки, але розв’язання проблеми залишають водію. Натомість розумний автомобіль запланував би собі такий маршрут, щоби все ж підвезти мене на роботу, але так, щоби по дорозі зустріти якомога більше перешкод, які змушують чекати, що дозволяло би охолоджувати двигун.

Робот, здатний сприймати екзистенційний ризик, може навчитися опрацьовувати неочевидні способи його мінімізації, а не покладатися на заздалегідь запрограмовані розв’язки. Таким чином, ставши вразливими, машини – як це не парадоксально – будуть сильнішими і стійкішими.

Увімкни пральній машині нову програму: емпатія

Як стверджують психологи, однією з головних людських мотивацій є усвідомлення своєї минущості і досвідчення страху, викликаного неминучістю смерті.

Він змушує нас боротися за життя, народжувати дітей, об'єднуватися у вірі, будувати фінансові імперії чи писати книжки.

Ми робимо це для того, щоб заслужити вічне життя або хоча б символічне безсмертя, тобто зберегти себе в пам'яті нащадків. Захист власного існування може бути імпульсом, який дозволить машинам ефективніше імітувати інтелект людини у всій його сукупності.

Важко тут не згадати про три закони робототехніки Ісаака Азімова:

1. робот не може ані скривдити людину, ані допустити до того, щоб людина була скривджена;
2. робот повинен підкорятися командам людини, якщо це не суперечить пункту №1;
3. робот повинен захищати себе, якщо це не суперечить пунктам №1 і №2.

Хіба робот, який буде піклуватися про себе, не стане смертельною загрозою для своїх творців?

Поставши перед таким питанням, Дамазіо і Мен припускають, що для безпеки людини та інших машин роботи, що про себе думають і дбають, «крім пізнання почуттів власних, повинні мати здатність розуміти почуття інших – тобто мусять мати емпатію».

Це є щось. Направду. Як тільки вдасться запрограмувати робота з емпатією, можна мати надію на краще майбутнє. А як тільки ми навчимося оснащувати емпатією машини, то може знайдемо також спосіб, щоби прищепити її людям.

А якщо цілковито на серіо, то можна задатися питанням: чи оснащення штучного інтелекту вмінням відчувати страх смерті та інші почуття дійсно поліпшить його когнітивні здібності? Чи – навпаки – погіршить здатність міркувати, вивінує його всіма нашими когнітивними помилками і всіма нашими недоліками, що випливають з емоційного сприйняття світу?

Irena Cieślińska
Sztucznej inteligencji trzeba wszczepić lęk przed śmiercią
Gazeta Wyborcza, 26.12.2019
Переклад О.Д.