25 листопада 2021 року сталася знакова й довгоочікувана подія для індустрії розробки систем машинного навчання (machine learning, ML) та штучного інтелекту (artificial intelligence, AI).

Цього дня Генеральний директор ЮНЕСКО Одрі Азуле представила перший глобальний стандарт етики штучного інтелекту під час Генеральної конференції організації в Парижі. Цей стандарт було ухвалено 193 країнами-учасницями ЮНЕСКО.

Згідно із задумом, цей стандарт, що носить рекомендаційний характер, спрямований на:

• забезпечення реалізації переваг технологій штучного інтелекту для суспільства;
• та одночасного зменшення ризиків, пов’язаних із ними.

Тут постають усі красиві мрії й задуми, пов’язані із проблемами сталого розвитку, забезпечення дотримання прав людини, прозорості й конфіденційності в галузі освіти, економіки, культури, охорони праці й охорони здоров’я.

Зокрема, у документі містяться рекомендації щодо:

• захисту персональних даних;
• заборони систем соціальної оцінки та масового спостереження;
• підтримки різноманіття (проявів людської особистості) та інклюзивності;
• прозорості алгоритмів штучного інтелекту та їхня «підзвітність» експертам- людям;
• захисту довкілля.

Речники ЮНЕСКО прокоментували цей документ так: «Розробки систем штучного інтелекту повинні бути підпорядковані принципам верховенства права, запобігати заподіянню шкоди людині та довкіллю, а за умов, коли така шкода все ж таки заподіяна, повинні спрацьовувати механізми відповідальності та відшкодування збитків».

А сама пані Азуле додає, що запропоновані стандарти – це наріжний камінь щодо майбутнього правового регулювання, необхідного для забезпечення належного розвитку технологій штучного інтелекту: «[Документ] визначає першу редакцію глобальної нормативної бази [в питаннях розвитку систем штучного інтелекту], в той же час покладаючи відповідальність за її імплементацію на національні держави».

Що ж, з одного боку цю новину потрібно всіляко вітати. Адже проблеми етики в царині створення роботів, машин та систем штучного інтелекту порушувалися ще на початкових стадіях розвитку індустрії.

Варто хоча б згадати доробок видатного вченого й письменника-фантаста Айзека Азімова, який ще у 1942 році сформулював три закони робоетики у короткій новелі «Зачароване коло» (Runaround) та поглибив свою концепцію у 1950-му у потужному романі «Я, робот» (I, robot).

Сучасні експерти, аналітики і оглядачі теж давно б’ють на сполох стосовно того, що неконтрольований розвиток систем штучного інтелекту без орієнтації на етику взаємодії між машинами та людьми наражає сучасні постіндустріальні суспільства та людську цивілізацію на істотні ризики в довготерміновій перспективі.

Дуже добре стан цієї дискусії висвітлюється та узагальнюється в розділі «Етика роботів та систем штучного інтелекту» в електронній «Стенфордській енциклопедії філософії».

Однак як би не хотілося щонайшвидше побачити позитивні зміни через запропоновані нормативні ініціативи ЮНЕСКО, я змушений визнати, що існує ціла низка історичних, технологічних та інституційних факторів, що можуть уповільнити ці зміни.

Що заважає?

Щодо історичних та технологічних чинників, варто згадати, з чого розпочався нинішній бум у розвитку технологій штучного інтелекту. І тут не буде перебільшенням зауважити, що цей бум у своїй природі завдячує незнаній до тієї пори концентрації новітніх надпотужних обчислювальних апаратних комплексів (hardware), результатів розробок новітніх алгоритмів створення моделей машинного навчання (ML software) та накопичення величезних обсягів найрізноманітніших даних (в тому числі й про людей-користувачів) у невеличкої кількості глобальних транснаціональних компаній Big Tech, як то Google, Amazon, Microsoft, Meta, (раніше Facebook), Twitter.

Саме компанії Big Tech були і залишаються у фарватері технологічної революції зі створення сучасних систем штучного інтелекту. І вони вже відчули як істотні економічні ефекти від впровадження подібних систем без урахування будь-яких етичних обмежень, так і присмак «сп’яніння від володарювання», адже контроль над подібними технологіями породжує «синдром деміурга» та «фантазії про світове панування».

З огляду на це, у сучасних національних держав просто немає механізмів контролю за дотриманням глобальними транснаціональними корпораціями будь-яких законодавчих норм у сфері створення етичних систем штучного інтелекту.

Навіть ухваливши рекомендації ЮНЕСКО на рівні національного законодавства, національні уряди навряд чи зможуть диктувати глобальним технологічним гравцям свої правила гри.

І хоча в США зараз здійснюють відчайдушну спробу вийти з цього зачарованого кола – завдяки політиці адміністрації президента Джо Байдена щодо спроб обмежити вплив усіх без винятку великих технологічних компаній Big Tech – через намагання застосувати до них норми антимонопольного законодавства, навіть такій надпотужній державі, як США, навряд чи вдасться подолати Левіафана технологічних гігантів та глобальних еліт, що за ними стоять.

Окрім прямого спротиву діям уряду США, технологічні гіганти застосовують і політику «м’якої сили», просуваючи свої сенси у масову свідомість користувачів та експертні середовища.

Чудовою ілюстрацією такого просування є нещодавній вихід у світ книги «Ера штучного інтелекту та наше людське майбутнє». Колектив авторів цієї книги (а це поважні й знані в усьому світі глобалісти – політик та лобіст Генрі Кісінджер, колишній CEO компанії Google Ерік Шмідт та Даніель Хаттенлохер, декан Schwarzman College of Computing в MIT – однієї з провідних освітніх та наукових установ у світі, що спеціалізується на технологіях штучного інтелекту) цілком вправно просуває порядок денний, що зумовить глобальне панування транснаціональних компаній, озброєних сучасними технологіями штучного інтелекту.

А ще ж Китай

Окрім усього цього, існують і політичні фактори, що не сприяють поширенню принципів етичних систем штучного інтелекту. Ці фактори, зокрема, зосереджені нині у Піднебесній імперії. Сучасний комуністичний Китай розглядає наявність інноваційних технологій штучного інтелекту як стратегічний чинник свого політичного й навіть військового домінування в світі.

В самому Китаї технології штучного інтелекту сягнули високого рівня розвитку, і в дечому вони перевершують досягнення глобальних західних корпорацій. І ці технології зовсім не є етичними (принаймні, у сенсі, що вкладають в етику представники західної цивілізації та упорядники глобального стандарту етики штучного інтелекту в ЮНЕСКО).

Досить лише згадати, наприклад, систему соціального кредиту в Китаї – фактично, вона вже є реалізацією найсумніших антиутопій про Великого Брата, що наглядає за кожним членом суспільства, хоча вони органічно вписуються у концепції традиційної китайської філософії.

Ба більше, Китай збирається активно тиражувати й просувати такі технології в інші країни, де він досягне вирішального впливу на місцеві політичні еліти.

Завдяки китайській політиці глобальні технологічні гіганти здобувають додаткові аргументи для того, щоб зменшувати (а то й повністю нівелювати) спроби національних урядів обмежити їхні апетити в царині штучного інтелекту етичними й юридичними нормами.

Той самий Ерік Шмідт, відомий своїми постійними зверненнями до уряду й очільників США щодо необхідності значного розширення фінансування програм із розвитку військових технологій штучного інтелекту із залученням глобальних компаній Big Tech, аргументує це тим, що такі інвестиції стануть критично важливими у стратегічному двобої західної цивілізації, очолюваної США, з Китаєм та його сателітами.

Таким чином, стандарт етики штучного інтелекту, запропонований ЮНЕСКО, з’явився на авансцені у доленосний момент, коли наша цивілізація впритул наблизилася до точки біфуркації.

В одному зі своїх попередніх текстів («Штучний інтелект і людина: загрози і можливості») я докладніше зупинявся на сутності цієї біфуркації – зіткненні «системи тотального контролю суспільства» під орудою вузької касти деміургів, озброєних новітніми технологіями штучного інтелекту, що працюють на їхню користь, та «суспільства творців».

Також нагадаю про ще одного потужного письменника-фантаста та знаного науковця-природознавця Івана Єфремова, чиї ідеї можуть стати у нагоді при проходженні цієї точки.

Роман Івана Єфремова «Година бика» містить секрет перемоги над «деміургами-змієносцями». В іншому своєму творі – «Зоряні кораблі», Єфремов вустами одного зі своїх героїв промовляє:

«За людську культуру варто боротися. Благородна місія полягає в тому, щоб боронити її від варварства, озброєного новітніми технологіями».

Схоже, що твердження Івана Єфремова стає надзвичайно актуальним.

Георгій Вишня – управлінець у сфері IT, фахівець із систем штучного інтелекту, машинного навчання, есеїст.

Думки, висловлені в рубриці «Точка зору», передають погляди самих авторів і не конче відображають позицію Радіо Свобода