Оксана Головатенко
Приватний нотаріус,
Кандидат юридичних наук,
Медіатор
Світ диктує нові правила та постійно ставить перед нами нові виклики. Цифрові технології стали невід’ємною частиною нашої роботи, навчання та загалом повсякденного життя.
Навіть тим, хто налаштований скептично, бути осторонь від процесів цифровізації стає дедалі важче. Звичайно, є вихід для людей, які категорично налаштовані – це життя на відділеному острові. Іноді такі зустрічаються. Але це скоріше виключення, і більшість живе в сучасних реаліях цього світу. І так, на жаль, ці реалії доволі часто – жорсткі.
З практичної точки зору, для мене, як юриста за фахом, актуальні питання цифровізації у сфері права. Проте я чітко розумію, якої б сфери це не стосувалось – за цим, перш за все, стоїть саме людина.
Моя професія передбачає високу ступінь відповідальності, зобов’язує критично мислити та бути неупередженою у прийнятті рішень, тому я завжди намагаюсь детально розібратися з чим маю справу та як це працює.
Технічна сторона роботи систем є важливою. Проте, я не я спеціалістом з технічних питань в сфері цифрових технологій. Мої міркування знаходяться виключно в етичній, моральній та юридичній площині.
В процесі вивченні світових досліджень у галузі цифрових технологій, фахових публікацій, вже існуючих кейсів застосування АІ в різних сферах, мою увагу привернули роботи, що піднімають питання суб’єктності особи користувача систем, морального, етичного аспекту роботи з системами та відповідальності користувача систем.
Я впевнена, що починати треба з основного елементу в цьому процесі – людини. Саме людина є основною ланкою, яка закладає майбутнє у цифру. І саме тому, суспільству необхідно сформувати чіткі принципи, моральні, етичні норми роботи людей з системами і встановити чіткі критерії відповідальності.
В галузі етики та регулювання роботи ШІ, наразі, більшість дискусій концентрується навколо відповідальності розробників, технологічних компаній або державних інституцій та алгоритмів, запобіжників, які закладаються в роботу систем. Проте багато світових експертів приділяють велику увагу саме людині – як одній із головних ланок у цифровому світі.
Людина, як суб’єкт в сфері цифрових технологій, ініціює, спрямовує або застосовує системи ШІ. Саме ця фігура стає все більш релевантною, оскільки користувач, не лише активує алгоритм, а й приймає рішення на його основі, що може мати прямі або непрямі соціальні наслідки. Це, в свою чергу, породжує питання етичності дій користувача та його відповідальності за свої дії.
Навіть у випадках, коли розробниками систем є великі компанії та корпорації, за цим все одно стоять люди. Ігнорування потреби у дослідженні та врегулюванні питань етики та відповідальності в галузі використання ШІ, може привести до значних негативних наслідків як для держави, так і для суспільства в цілому.
Штучний інтелект (ШІ) стрімко трансформує соціальні, правові, економічні й етичні ландшафти сучасного світу. Системи ШІ вже сьогодні впливають на процеси ухвалення рішень у судочинстві, медицині, освіті, журналістиці, управлінні персоналом і державному адмініструванні. Разом із перевагами виникає новий тип ризиків – пов’язаний із непрозорістю алгоритмів, делегуванням моральних рішень технічним системам та зникненням чіткої межі відповідальності між людиною та машиною.
Поняття відповідальності звичайно має, перш за все, філософське підґрунтя.
У класичній етиці відповідальність розуміється як здатність суб’єкта усвідомлено відповідати за свої дії. Арістотель у «Нікомаховій етиці» наголошує: відповідальність виникає там, де наявний вибір, що відбувається у стані знання та волі: «Саме у виборі ми виявляємо себе як моральні істоти» (Нік. ет., ІІІ, 1). Ну і як же без Іммануїла Канта, який доповнює цю парадигму ідеєю автономії як джерела морального закону, стверджуючи: «Обов’язок – це необхідність вчинку з поваги до закону» (Кант, 1785).
Проте сучасні технології, зокрема ШІ, розмивають межу між суб’єктом і середовищем, віддаляють користувача від наслідків його взаємодії з системою.
Ханс Йонас у праці «Принцип відповідальності» (1979) розробляє концепцію «еволюційної етики майбутнього», у якій акцент переноситься з найближчих моральних наслідків на глобальні та міжпоколіннєві ефекти. За Йонасом, відповідальність полягає не лише у дотриманні норм, а в передбаченні довгострокових ризиків, які породжує технологічна дія – «Дій так, щоб наслідки твоєї дії не знищували можливості майбутнього людського життя».
З огляду на процеси, що відбуваються в галузі цифровізації ХХІ століття, проблема етики та відповідальності переходить від індивідуального до системного рівня.
Користувач, навіть не маючи злого наміру, може стати джерелом шкоди через відсутність відповідальності, обачності, достатніх знань або певної етичної чутливості.
Саме тому, в першу чергу, на поверхню слід піднімати питання моралі та етики і як наслідок відповідальності за дії користувача.
Системи ШІ дедалі частіше виступають як квазі-суб’єкти, здатні автономно приймати рішення. У таких умовах значно зростає ризик перекладання моральної відповідальності на алгоритм. Це явище отримало назву «moral outsourcing» – морального аутсорсингу, коли люди і організації перекладають моральну відповідальність за свої вчинки на інші інституції або навіть на технології.
Авторкою ідеї «moral outsourcing» є Dr. Rumman Chowdhury, яка є фахівцем з етики алгоритмів. Dr. Rumman Chowdhury була директоркою з етики машинного навчання (META) у Twitter (2021–2022), очолювала відповідальні ініціативи AI в Accenture. В низці своїх досліджень за 2022 рік вона доводить, що користувачі, навіть за наявності інструментів перевірки, часто не користуються ними, вважаючи ШІ більш «об’єктивним» чи «розумним», ніж людське судження.
Певні сучасні дослідження та акти, що регулюють використання ШІ містять таке поняття як «Агентність». Є різні визначення цього поняття. Одне з найбільш змістовних, як на мене, наступне: агентність – це здатність людини діяти автономно, приймати свідомі рішення, брати відповідальність за вчинки, долучатися до активних дій, впливати на світ навколо та сприяти поліпшенню життя та світу.
Дослідниця, американська соціологиня Virginia Eubanks (Вірджинія Юбенкс) в своїх дослідженнях описує, як автоматизовані системи зменшують агентність вразливих людей через непрозорі рішення. Наголошує на тому, що користувачі не мають змоги оскаржити або вплинути на рішення ШІ, наприклад в державному управлінні.
Brent Mittelstadt (Брент Міттельштадт), дослідник Оксфордського інституту Інтернету, один з перших, хто розвинув ідею «користувача в контурі» (user-in-the-loop) – користувач має залишатися активним суб’єктом у ШІ-процесах. Як приклад, він досліджував питання як дизайн інтерфейсів може навмисне обмежувати агентність користувача. Дизайн інтерфейсу є ключовим фактором, що формує або обмежує агентність користувача — його здатність діяти свідомо, критично й автономно. Часто інтерфейс сконструйовано так, щоб скеровувати поведінку, зменшуючи можливість вибору. Наприклад, кнопка «Прийняти всі» (умови, куки, підписки) зазвичай велика й помітна, тоді як «Налаштувати» — прихована або ускладнена, що змушує користувача погоджуватися без реального аналізу. Подібно, в інтерфейсах із жорстко заданими сценаріями, як-от чат-боти з обмеженою кількістю відповідей, людина не може сформулювати власне запитання, втрачає ініціативу і діє в межах логіки, визначеної системою. У таких випадках агентність зводиться до передбачуваної реакції, а не до морального або критичного вибору.
В свою чергу перекладання користувачем моральної відповідальності за свої вчинки, призводить до «моральної дезагентності» – феномену, коли особа зберігає роль виконавця, але втрачає відчуття відповідальності за наслідки своїх дій. Користувач не усвідомлює себе як повноправного агента, як першопричину будь-яких дій і наслідків, не керується у своїх діях такими поняттями, як відповідальність, а отже – знижує стандарти етичної поведінки.
У поєднанні з нездатністю пояснити логіку рішення, яке прийняла система ШІ – це веде до ситуації, де дії здійснюються автоматично, наслідки є соціально значущими, а відповідальний суб’єкт нівелюється.
У відповідь на ці виклики сучасна філософія ШІ пропонує концепцію розподіленої моральності. Лучано Флориді (Luciano Floridi), мислитель в області філософії, техніки та етики, при дослідженні агентності у контексті інформаційної етики ШІ зазначає, що етична відповідальність розосереджується між користувачем, алгоритмом, інституційним середовищем і даними.
Це означає, що користувач є лише частиною більш складного соціотехнічного ланцюга, але не втрачає свого статусу морального агента.
Філіп Брейтон, професор філософії та етики технологій в університеті Твентк, Нідерланди і Марк Кекелберг, філософ технологій, професор Віденського університету, розвиваючи концепт «relational agency» – суб’єктність у відносинах, наголошує на тому, що суб’єктність формується та проявляється у взаємодії з іншими та підкреслює: агентність виникає не в абсолюті, а у взаємодії, у конкретній ситуації, у межах певного знання, з певним доступом до інструментів і обмежень. Це дає підстави розглядати користувача не лише як інструментального виконавця, а як відповідального співучасника цифрової дії.
Певні дослідження піднімають дуже важливе питання – здатність людини формувати та переглядати власні переконання під впливом ШІ.
На мою думку, саме зміна поглядів та переконань в процесі користування ШІ може привести до значних соціальних наслідків і найгірше в цьому, що такі наслідки можуть бути неконтрольованими.
У сучасному цифровому середовищі користувач часто сприймає штучний інтелект як «нейтрального» помічника або «технічний інструмент». Однак насправді взаємодія з AI – це завжди кооперативний процес, у якому користувач є співтворцем результату. Саме це створює етичне поле відповідальності, про яке більшість не замислюється.
Для того, щоб зрозуміти як це проявляється, розглянемо кілька прикладів:
При використанні ChatGPT/GPT-моделі: користувач ставить питання або формує запити з упередженим формулюванням, наприклад: «чому жінки погані керівники?». Модель, навчаючись на статистичних патернах (структурах, що повторюються), може відтворити дискримінаційні наративи, особливо, якщо не отримала алгоритмів відповідної фільтрації.
Навіть якщо система вводить запобіжники, відповідальність за формулювання вихідного запиту все одно залишається на людині.
Працюючи з Midjourney/DALL·E/AI-генерація зображень: користувач може дати запит на створення зображення «ідеального кандидата на посаду», вводячи опис типу: «успішний CEO, лідер». У результаті система, базуючись на тренувальних (закладених) даних, видає зображення білого чоловіка середнього віку. Користувач не обов’язково мав на меті дискримінацію, але його формулювання викликає відтворення гендерних і расових упереджень.
Використовуючи, наприклад LLM і пошукові системи (Bing Copilot, Gemini, Claude): користувач формує запит типу «кращі країни для життя». Система часто генерує списки з перевагою та пріоритетно надає результати, пов’язані з країнами глобального Заходу – США, Канада, Великобританія, Німеччина, Франція, тощо, тоді як інші регіони (Східна Європа, Латинська Америка, Африка, Південно-Східна Азія) опускаються, маргіналізуються або ігноруються.
На запит «Найкращі університети для програмістів» відповідь GPT, Bing або Gemini, як правило, видає: MIT, Stanford, Harvard, Carnegie Mellon, Oxford. Але, наприклад, ETH Zurich або KAIST (Південна Корея) – часто не потрапляють у список без уточнення, хоча входять до світового топу. Київський політехнічний або Варшавський університет згадуються лише при явному регіональному запиті, не тому, що вони менш значущі, а тому, що інформації про них у навчальних датасетах менше або вона менш структурована/рейтингована. Це відображає асиметрію в доступності знань та інформації, яку користувач – через неусвідомленість – відтворює та посилює.
На цих прикладах чітко видно важливість якості та етичності формування запиту до систем, відповідальність за яку несе саме користувач.
Доволі розповсюдженою є думка про те, що «машина навчається». Насправді ж вона не має на навичок до навчання, притаманних людині. Якщо спробувати примітивно описати цей процес – машина накопичує інформацію, що закладає в неї саме людина і в процесі накопичення інформації, при отриманні певного запиту, оброблює інформацію за допомогою закладених алгоритмів та з урахування вже накопиченої інформації, в тому числі й про особу користувача. Як наслідок, подальше накопичення інформації веде до зміни результатів аналітики, корегуванню відповідей або навіть до зміни напрямку, в якому розглядається те чи інше питання користувача. Для простішого розуміння – це можна порівняти з очевидною різницею в результаті роботи комп’ютера, коли йому збільшили пам’ять та встановили нові програми.
Попри все, багато користувачів продовжують наділяти машину людськими якостями, не розуміючи рівень своєї відповідальності за інформацію, яку вони закладають в машину, і саме на якій, потім, базується її аналітика та відповіді. Навіть без злого наміру, користувач може запускати певні патерни в базі даних моделей, на основі яких вона працює. Це створює ефект «морального делегування», коли людина перекладає відповідальність на алгоритм.
Насправді ж, користувач вчиняє конкретні дії: розміщує певну інформацію, формує запит, обирає результати, потенційно розповсюджує або легітимізує упереджені висновки (особливо у публічних чи професійних середовищах).
Користувачу систем, в розрізі усвідомлення своєї відповідальності, слід, перш за все, акцентувати увагу на тому як працює система. Слід формувати запити з урахування етики та моралі. При роботі користувач повинен чітко усвідомлювати як система виконує поставлені їй завдання, як реагує на запити, на чому засновані її відповіді та аналітика. Система також надає відповіді, виходячи з рівня термінів та понять, якими оперує саме користувач, його словникового запасу та рівня питань, які його цікавлять, здійснює аналіз повторюваних запитів. Якщо провести аналогію, то в системі закладені алгоритми, що відповідають розповсюдженому в соціумі твердженню про те, що саме питання, які ставить людина, можуть багато розповісти про її інтереси, спосіб мислення та рівень розуміння, тоді як відповіді нерідко бувають завченими або пристосованими до ситуації
Особливо критично слід сприймати таку функцію систем, як пропонування наступних кроків, напрямків, шляхів вирішення проблеми або питань для наступного аналізу та розгляду. На перший погляд вони виглядають цілком логічними в контексті створених запитів, проте, при критичному аналізі, доволі часто це виглядає як програмування людини та нав’язування певних висновків та напрямків у вирішенні питань, що в подальшому може привести навіть до зміни особистих поглядів та уявлень людини.
На цьому етапі важливим є питання критичного мислення. Але, як показує практика, більшість користувачів не піддають критичному аналізу висновки, відповіді або пропозиції системи та приймають по замовченню запропоновану інформацію, сприймаючи їх як «істину по замовченню».
Навіть розуміючи, що в роботу системи закладені певні алгоритми-запобіжники, не слід нехтувати критичним аналізом та перевіркою інформації.
Відсутність критичного погляду, вміння аналізувати та перевіряти відповіді у процесі роботі з системою приводить до того, що користувач починає сприймати систему, як живий організм з «людським обличчям» та притаманними людині якостями. Не розуміння алгоритмів, принципів роботи системи, «навішування» їй людських рис, «вміння мислити», призводить до втрати користувачем агентності, контролю, стирання меж між тим, де є сам користувач, його особиста думка, а де аналіз матеріалів, відповідь на запит, які здійснив саме цифровий механізм.
Користувач повинен постійно пам’ятати, що саме він і є головною і кінцевою ланкою у роботі і контролі системи. Всі наслідки взаємодії з системами знаходяться виключно в зоні відповідальності людини.
У зв’язку з цим постає питання відповідальності в сфері користування системами.
Користувач системи ШІ є фігурою, яка водночас інтегрована у правове поле, моральну сферу, професійне середовище та суспільство. З огляду на це, доцільним буде розмежувати кілька видів відповідальності, які діють паралельно, але з різними підставами та наслідками.
Етична відповідальність – це обов’язок діяти відповідно до норм моралі, чесності та справедливості, враховуючи інтереси інших та суспільний розвиток, навіть у випадках, коли формальні норми ще не встановлені. Приклад: Користувач не застосовує систему ШІ для відбору кандидатів на роботу, якщо вона проявляє ознаки гендерного упередження.
Юридична відповідальність – виникає у випадках порушення норм права, і може бути: цивільною (відшкодування шкоди), адміністративною (штраф за порушення регламентів), кримінальною (за тяжкі наслідки, наприклад, помилка діагностичного ШІ). Приклад: Медичний працівник використовує ШІ-систему без сертифікації, що призводить до шкоди пацієнту.
Професійна відповідальність – пов’язана з порушенням професійних стандартів та етичних кодексів у відповідній галузі (медицина, право, освіта). Приклад: Юрист подає документи, згенеровані ШІ, без верифікації і несе відповідальність за недотримання стандарту «diligence» – що в перекладі українською, як один із варіантів, звучить як «ретельність».
Соціальна відповідальність – полягає у недопущенні впливу на соціальну нерівність, дискримінацію, радикалізацію або маніпуляцію через алгоритми. Приклад: Освітня установа впроваджує ШІ-систему оцінювання, яка несправедливо занижує результати учнів з мовними особливостями, нейрокогнітивними особливостями, тобто не враховує особливості роботи мозку, які впливають на пізнавальні процеси, мислення, пам’ять, сприйняття, увагу та інші розумові функції – ігнорування цього створює ризик соціальної шкоди.
Інституційна відповідальність – несуть організації, які впроваджують або регламентують використання ШІ: державні органи, освітні, медичні, соціальні структури. Держава як інституція несе відповідальність за негативні наслідки роботи ШІ, якщо не гарантує прав людини, прозорість алгоритмів і можливість оскарження. Приклад: держава запускає систему на базі ШІ для автоматичного визначення права громадян на субсидії. Система аналізує дані з держреєстрів, доходи, місце реєстрації, витрати. Алгоритм без пояснень відмовляє у субсидії внутрішньо переміщеним особам (ВПО) та одиноким матерям, бо не враховує реальні життєві обставини або спирається на упереджені дані.
Люди не можуть оскаржити рішення, бо система непрозора, а “людський нагляд” — формальний.
Варто приділити окрему увагу ситуаціям, у яких системи ШІ використовуються колективно або в багатоетапному процесі.
Це породжує етичну проблему, відому як «problem of many hands» – «проблема багатьох рук» (Thompson, 1980): складність ідентифікації відповідального, коли рішення є результатом дії багатьох суб’єктів.
В таких випадках доцільно застосовувати механізм accountability chain – ланцюга підзвітності: фіксація того, хто сформулював запит, хто перевірив результат, хто затвердив його застосування. Цей механізм особливо релевантний для публічних установ, медіа та освітніх закладів, де рішення ШІ можуть впливати на долі людей.
Щоб уникати правової невизначеності, слід вивчати міжнародний досвід у вирішенні питань етики та відповідальності в сфері ШІ та звернутися до міжнародних стандартів, які вже окреслили роль користувача у взаємодії з ШІ, як об’єкта права та суб’єкта відповідальності, розглянути основні принципи та положення, які вже закладені у них для користувачів систем ШІ. Зокрема, це: Європейський AI Act (2024), Рекомендація ЮНЕСКО з етики ШІ (2021), принципи OECD і Digital Europe.
Акт про штучний інтелект ЄС (AI Act) є комплексним правовим актом, що регулює розробку, впровадження та використання ШІ на основі ризик-орієнтованого підходу. Документ визнає користувача ШІ як окрему категорію суб’єкта, на якого покладається низка обов’язків, зокрема щодо прозорості, людського контролю та документування дій. Серед ключових зобов’язань користувачів (ст. 29 AI Act) зазначено: забезпечення людського нагляду (human oversight) над системами високого ризику, ведення журналу взаємодії з ШІ (логування рішень, здійснення процесу ведення та фіксації подій, дій або стану програми або ж комп’ютерної системи під час їх роботи), дотримання принципів прозорості, зокрема шляхом вказівки на використання ШІ в автоматизованих рішеннях, відповідальність за помилки, що виникають через неправильне застосування системи. Ці положення трансформують абстрактну етичну модель у юридично значиму поведінкову рамку, що дозволяє притягнути користувача до відповідальності.
Приклад: HR-відділ використовує систему попередньої оцінки кандидатів. Відповідно до AI Act, користувач має обов’язково інформувати про це кандидатів, мати право втрутитися у рішення і забезпечити пояснюваність результатів.
Рекомендація ЮНЕСКО з етики ШІ (2021) містять глобальний підхід до етики користування системами. Цей документ, прийнятий міжурядовим консенсусом, сформував етичний каркас для глобального впровадження ШІ, акцентуючи на правах людини, гідності, інклюзивності, прозорості та відповідальності. Особливо цінним є його акцент на користувача як учасника морального ланцюга, а не як технічного споживача.
Серед ключових положень, що стосуються користувача: забезпечення права на інформовану згоду щодо використання ШІ, участь користувача в оцінці впливу на права людини (Human Rights Impact Assessment), стимулювання етичної обізнаності користувачів.
Рекомендація також підтримує ідею створення механізмів етичного аудиту та громадського моніторингу, у яких користувач фігурує не як об’єкт, а як суб’єкт дії.
Принципи OECD і Digital Europe: прозорість, підзвітність, управління ризиками. OECD та DigitalEurope розробили низку рекомендацій щодо використання ШІ у приватному та публічному секторах. Особливу увагу приділено саме користувачам як операційній ланці, відповідальній за етичне застосування технологій.
В світи вже сформовані певні ключові принципи регулювання ШІ, що стосуються саме користувача систем:
Transparency – право і обов’язок користувача знати, коли й як застосовується ШІ;
Accountability – визначення відповідальних на всіх етапах застосування ШІ (включно з користувачем);
Risk management – обов’язок користувача зупинити використання системи в разі загрози;
Ethical literacy – підвищення кваліфікації користувачів для відповідального прийняття рішень.
Human-in-the-loop – означає, що остаточне рішення завжди ухвалює людина. Це гарантує, що відповідальність не делегується повністю алгоритму.
Explainability – системи ШІ мають бути зрозумілими для неспеціалістів. Користувач має не лише право, а й обов’язок зрозуміти логіку дії системи якщо, якщо її використання впливає на інших осіб.
Algorithmic bias – користувач повинен бути обізнаний щодо потенційних упереджень у системі. Застосування дискримінаційного інструменту без належної перевірки є проявом етичної недбалості.
Conformity assessment – оцінка відповідності – юридична і технічна перевірка ШІ-системи на відповідність нормам. Користувач зобов’язаний використовувати лише ті системи, які пройшли таку оцінку, якщо це передбачено законом.
Digital due diligence – цифрова належна обачність, частина загального процесу належної перевірки. Користувач повинен: перевіряти достовірність даних, логувати дії, забезпечувати можливість людського перегляду рішень, не використовувати систему поза її призначенням, тобто автоматизовані рішення не можуть бути остаточними без можливості втручання людини.
Міжнародні стандарти відповідальності визначають користувача ШІ як повноцінного суб’єкта прав та обов’язків у цифровому середовищі. Проте ефективність цих стандартів залежить від здатності відповідних національних систем адаптувати їх до власного правового та інституційного контексту.
Відтак постає питання: наскільки Україна готова до імплементації моделей етичної та юридичної відповідальності користувачів ШІ? Чи існують національні правові механізми, здатні підтримати принципи прозорості, пояснюваності, підзвітності? І, що не менш важливо, – які ризики постають за їх відсутності?
З аналізу правових норм, що регулюють застосування АІ в Україні, цілком очевидно, що вони розпорошені між актами про захист персональних даних, інтелектуальну власність, електронні комунікації та державні послуги. Внаслідок цього утворюється свого роду “етична сіра зона”, де ні користувач, ні інституція не мають чіткого зобов’язання перевіряти, пояснювати або коригувати рішення системи.
Кількість запроваджених реєстрів та цифрових платформ в Україні породжує правовий та цифровий хаос. А відсутність законодавчого врегулювання при такій кількості реєстрів та цифрових платформ не дозволяє встановити контроль та відповідальність за їх використання.
Наведу кілька прикладів:
Сфера – Інформаційна безпека, дезінформація. Deepfake має на меті підрив довіри, маніпуляцію суспільною думкою через фальшивий контент, створення та поширення фальшивих відео із заявами державних або відомих суспільству осіб. Масштабні діпфейки використовують під час війни, виборів чи кризових ситуацій в країні для впливу на соціум та електорат. Відсутнє чітке законодавче визначення поняття «deepfake» у законодавстві, відсутні механізми протидії, інструменти видалення контенту неефективні, невизначені автори, поширювачі таких відео зазвичай залишаються безкарними. Наслідки – посилення інформаційної війни. Потреба – у законодавстві про цифрову ідентичність, прискореній модерації, встановлення відповідальності, посилення контролю, чіткої класифікації правопорушення.
Сфера HR – AI-рекрутинг. Алгоритмічна дискримінація кандидатів AI-системи для сортування резюме можуть дискримінувати за віком або регіоном. Були випадки коли системи фільтрували жінок або кандидатів з нетиповими ознаками без пояснення. Відсутність вимог до прозорості алгоритмів, немає аудитів або права на оскарження. Невідомо, хто відповідає – компанія, яка впроваджує ШІ, чи розробник. Необхідність законодавчого використанні ШІ у працевлаштуванні.
Сфера HR – освіта – АІ співбесіди мають результат несправедливих оцінок. Не встановлено чітких критеріїв оцінок, українські платформи не зобов’язані повідомляти про АІ-скринінг. Відсутня жодна відповідальність та право кандидата вимагати аудиту та пояснень. Відсутній інструмент та законодавче врегулювання порядку оскарження.
Сфера Право – AI у судовій системі. Непрозорість судових AI-інструментів AI-аналітика судових рішень, що використовується в Україні, не пояснює логіку висновків. Не передбачено механізмів аудиту алгоритмів, вимог до прозорості, відсутні стандарти для таких систем. AI не несе відповідальності, а суддя може покладатися на нього без критичного аналізу. Потреба у прозорості, стандарті пояснень та етичному контролі таких систем, встановленні меж їх використання.
Слід відмітити, що 18 жовтня 2024 року ХХ черговим З’їздом суддів України Кодексу суддівської етики, згідно зі статтею 16 якого встановлено, що: «Використання суддею технологій штучного інтелекту є допустимим, якщо це не впливає на незалежність та неупередженість судді, не стосується оцінки доказів і процесу ухвалення рішень та не порушує вимог законодавства». На мою думку, використання ШІ в судовій системі, звичайно, можливе, але необхідно чітко розуміти межі використання та той факт, що відповідальним за прийняття рішення залишається виключно суддя.
Сфера Освіта – ChatGPT в освіті. Підміна авторства, порушення академічної доброчесності. Масове використання ШІ для написання курсових, дипломів тощо без визнання авторства. Потреба встановити нові формати оцінювання. Відсутність політик щодо використання ШІ в освіті, нечіткість меж відповідальності. Немає санкцій для студентів; викладачі не мають інструментів для контролю. Необхідність етичних кодексів, зміна методів перевірки знань та оновлення критеріїв оцінки знань, встановлення відповідальності за порушення академічної доброчесності.
Медицина: алгоритмічна діагностика без сертифікації. Частина медичних закладів застосовує інструменти ШІ для первинної діагностики. Проте не всі з них пройшли клінічну апробацію або етичну експертизу. У випадку помилкової діагностики лікар часто навіть не знає, як пояснити логіку результату.
Окремим викликом українського законодавства є відсутність чітко виписаних термінів та понять, які вже активно функціонують у міжнародному праві, наприклад, таких як «користувач ШІ», «агентність» «автоматизоване рішення», «алгоритмічна дискримінація», «етичний аудит» та інших термінів, які вже вкорінилися в цифровій сфері, відсутність процедури, за якою можна оскаржити рішення ШІ у публічній сфері. Громадянин не має доступу до логіки рішення, не знає, чи була перевірка з боку людини, і не може домогтися її повторного розгляду.
Попри наявні прогалини, в України є потенціал для впровадження передових практик: адаптація AI Act через гармонізацію з європейським правом, розробку національного законодавства з урахування вже існуючих принципів в сфері АІ, про які я зазначала вище, впровадження регуляторних пісочниць (sandbox), створення етичних комітетів у публічних установах (МОН, МОЗ, Мінцифри), запуск незалежних аудитів систем високого ризику та інше.
Однак без закріплення зобов’язань користувача – як агента, який приймає або реалізує рішення системи, – ці інституційні механізми залишаються неструктурованими.
Користувач системи штучного інтелекту є активним суб’єктом, який несе одночасно етичну, професійну, юридичну й інституційну відповідальність.
З огляду на складність взаємодії людини із системами штучного інтелекту, значним відставанням законодавчого врегулювання від процесу цифровізації як такого, Україні необхідна концептуальна етична рамка, яка дозволить описати відповідального користувача як етичного агента, що діє в умовах цифрової та законодавчої невизначеності.
Такою рамкою може стати українська етична модель «Відповідальна цифрова етика» – COРR як абревіатура понять Сontrol, Precaution, Reflection, Responsibility. Етичний «компас» для користувача в цифровому середовищі. Основою такої моделі можуть стати такі поняття:
– Контроль (Сontrol): усвідомлене управління процесом застосування ШІ, що включає: розуміння принципів дії алгоритмів, здатність зупинити або обмежити функціонування системи, відповідальність за наслідки автоматизованих рішень. Цей компонент базується на концепції «meaningful human control» – керованість людиною, розвинений у документах OECD (Організації економічного співробітництва та розвитку) та Європейському AI Act, згідно з якою користувач має зберігати визначальний вплив на рішення, які мають правові або етичні наслідки.
– Обачність (Oversight/Precaution): це етична передбачливість, вміння передбачити потенційні ризики, що включає: критичне мислення перед делегуванням рішень машині, увага до контексту застосування, вразливих груп, репутаційних наслідків, вибір безпечних сценаріїв використання. Обачність ґрунтується на принципі обережності (precautionary principle), що особливо актуальний у технологічній етиці.
– Рефлексія (Reflection): здатність осмислювати власні дії, наміри й обмеження, що включає: усвідомлення меж довіри до алгоритму, готовність переглядати практики, розуміння непрямих соціальних ефектів. Ця складова пов’язана з поняттям етичної рефлексивності, яке розвивають Floridi, Fjeld та інші філософи техноетики.
– Відповідальність (Responsibility): моральне, соціальне, правове і професійне зобов’язання діяти відповідно до встановлених норм і правил, усвідомлювати наслідки своїх рішень, готовність нести за них відповідальність.
Включає:
– моральну відповідальність, як усвідомлення власного зобов’язання діяти етично. Я не роблю, бо це суперечить моїй совісті.
– рефлексивну відповідальність, як переосмислення своїх рішень постфактум. Я визнаю, що вчинив негідно.
– випереджувальна відповідальність, як передбачення наслідків до дії. Я тримаюсь, бо це може зашкодити.
– публічна/соціальна, як прийняття відповідальності перед іншими. Я пояснюю, відповідаю, вибачаюсь.
Відповідальність, як один з елементів у моделі відповідальної етики —“заземлює” етичні роздуми у конкретних діях і механізмах. Формує міст між внутрішнім усвідомленням (рефлексією) і зовнішньою дією (контролем, обачністю), а також створює основу для етичної підзвітності у світі, де рішення ухвалюються все частіше автоматизовано.
Відповідальність замикає цю структуру моделі відповідальної етики, трансформуючи потенційну моральну позицію в реальне зобов’язання прийняти наслідки, не уникати участі, залишатись присутнім як суб’єкт дії. Саме відповідальність дозволяє перетворити моральне мислення на моральну участь, етичну позицію – на вчинок, а суб’єкта – на свідому присутність у складному світі рішень, ризиків і наслідків.
Україна є однією із країн-лідерів у цифровому просторі і цілком може претендувати на задання нових трендів, встановлення правил етики та чітких принципів та відповідальності в галузі ШІ.
Наведу кілька аргументів на користь впровадження моделі «Відповідальна цифрова етика» – COРR в Україні.
Модель підкреслює особисту участь і вибір людини, навіть у випадках коли інструмент етично сумнівний сам по собі.
Існує потреба саме у поведінковому інструменті, який працює без покарання. Встановлює моральні етичні принципи поведінки користувача ШІ. Закон карає постфактум. Але ШІ працює миттєво. Обачність і рефлексія в моделі формують внутрішній запобіжник.
Звичайно певні види відповідальності працюють виключно за наявності конкретних правових норм.
Саме запропонована етична модель може стати базою для користувача – як головного суб’єкта в процесі роботи за ШІ, а закладені в неї принципи та поняття – фундаментом для формування законодавчого поля в Україні.
Педагогічний і просвітницький потенціал моделі легко інтегрувати у навчальні програми, курси цифрової грамотності, HR-політики. Це не складна регуляторна модель, а базові етичні принципи, який можна викладати як частину цифрової освіти.
Де модель може бути застосована на практиці? Наведу кілька прикладів сфери застосування моделі:
Освіта – студент використовує ChatGPT → Рефлексія: чи це моє знання? Контроль: де межа допомоги? Обачність: чи не згенерує брехню? Відповідальність: чи готовий я відкрито визнати, яку частину роботи зробив сам, а яку – за допомогою ШІ? Чесне авторство, усвідомлення навчального процесу й готовність відповідати за результат – моральна відповідальність студента.
Судова система – Суддя отримує AI-аналітику → Обачність: чи є упередження? Рефлексія: чи не переношу відповідальність на машину? Відповідальність: чи готовий я нести моральну й юридичну відповідальність за вирок, ухвалений з опорою на ШІ? Суддя має залишатись автономним моральним суб’єктом, а не пасивним користувачем системи.
HR – Рекрутер застосовує AI-відбір → Контроль: чи дозволено законом? Обачність: чи не буде дискримінації? Відповідальність: чи готовий я пояснити відмову кандидату та підтвердити, що процес був справедливим і прозорим? Рекрутер несе відповідальність за наслідки автоматизованого рішення — і перед кандидатом, і перед роботодавцем, і перед законом.
Журналістика – Редактор використовує ШІ для створення новини → Рефлексія: хто автор? Чи є відповідальність за зміст? Відповідальність: чи готовий я відповісти перед аудиторією за наслідки опублікованого контенту, згенерованого частково ШІ? Редактор залишається гарантом довіри до медіа, незалежно від того, хто створював перший чернетковий варіант.
Політика – Політик поширює AI-контент → Контроль: чи це правдиво? Обачність: чи не є це маніпуляцією? Відповідальність: чи готовий я публічно нести політичну й етичну відповідальність за наслідки поширеного мною контенту? Політик несе відповідальність не тільки за форму, а й за ефект: дезінформація, паніка, втручання в свободу вибору.
Висновок: Чому етична модель – це українська етична відповідь швидкому розвитку цифровізації.
Україна стоїть перед викликом: ШІ вже тут, а правова база – у зародковому стані. У таких умовах: Модель є мостом між «теперішнім» і «майбутнім», вона створює внутрішній етичний стандарт, що передує зовнішнім законам, і найголовніше – повертає суб’єкта до відповідальності за те, що саме він обирає робити з ШІ.
Зазначена Модель пропонує цілісний підхід до відповідальності, акцентуючись на моральній зрілості користувача у ситуаціях делегування рішень технологіям.
Україна перебуває в точці, де технологічне впровадження випереджає етичне та правове оформлення. Без термінології, процедур і механізмів підзвітності навіть найбільш продумані системи ШІ можуть породжувати нормалізацію безвідповідальності.
Питання відповідальності користувача – це не лише філософський або юридичний дискурс, а конкретна умова довіри, справедливості й цифрового суверенітету в державі, яка претендує на демократичне майбутнє.
Саме тому постає нагальна потреба у розробці реалістичної дорожньої карти, яка б дозволила адаптувати європейські підходи до українських умов і зафіксувала конкретні обов’язки користувача в правовому, професійному й етичному полі.
Україна має офіційно затверджену Концепцію розвитку штучного інтелекту (КМУ, 2021), а також план заходів на 2025–2026 роки, що передбачає створення спеціального закону. Це свідчить про визнання теми на рівні державної політики. Мінцифри оприлюднило «Білу книги з регулювання ШІ в Україні»: бачення Мінцифри – аналітичний матеріал, що має на меті запропонувати підхід до регулювання технологій штучного інтелекту в Україні.
Незважаючи на стратегічні документи, досі відсутнє цілісне законодавство, яке б містило та встановлювало таке:
– визначення рівнів ризику ШІ-систем, без чого неможливо встановити градацію відповідальності. Це ключова норма EU AI Act. Потрібно: класифікація на «низький», «високий» і «неприпустимий» ризик;
– встановлення принципів прозорості алгоритмів систем. Обов’язковість пояснень, інформування користувача, що він взаємодіє з ШІ, право знати логіку прийнятого рішення. Це передумова підзвітності.
– запровадження обов’язкового незалежного аудиту ШІ-систем. Перевірка на етичні упередження, дискримінацію, безпеку. Особливо в державних і критичних сферах (правосуддя, охорона здоров’я, освіта).
– закріплення права на людське втручання і перегляд рішення. Так зване «right to human review» – обов’язкова норма в GDPR (Загальний регламент про захист даних «General Data Protection Regulation», регламент Європейського Союзу, який встановлює правила захисту персональних даних фізичних осіб у межах ЄС та Європейської економічної зони (ЄЕЗ). Він також регулює експорт персональних даних за межі ЄС та ЄЕ, надає громадянам ЄС контроль над їхніми персональними даними та спрощує регуляторне середовище для міжнародного бізнесу шляхом уніфікації правил). В Україні його немає. Важливо, щоб користувач міг оскаржити автоматизоване рішення.
– розробку механізмів захисту від маніпуляцій та цифрової експлуатації. Наприклад, експлуатація вразливих груп (діти, літні люди) за допомогою алгоритмів. В Україні відсутнє поняття «когнітивної шкоди» або «маніпулятивної дії ШІ».
– чітке законодавче регулювання при використання біометричних даних ШІ. Зокрема facial recognition (технологія, що дозволяє ідентифікувати або підтверджувати особу людини за допомогою її обличчя на зображенні або відео, voice analysis (технологія, що аналізує голос людини та визначає ступінь емоційного і когнітивного напруження, рівень стресу та різкі зміни емоційних реакцій впродовж розмови) та відповідальність за розголошення цієї інформації або у використанні її без згоди людини. Має бути окрема категорія персональних даних, особливо у зв’язку з застосунком Дія, банками тощо.
– встановлення національних стандартів етичної сертифікації ШІ-продуктів. Добровільні або обов’язкові етичні маркування, як в ЄС: «AI Trust Label», аудит відповідності стандартам.
– визначення понять та встановлення окремих норм для deepfake і фейкових ШІ-генерованих даних. Зараз deepfake не класифікований в ККУ як окремий злочин або правопорушення, хоча наявна загроза нацбезпеці.
– встановлення відповідальності за неналежне використання відкритих ШІ-моделей.
Наприклад, використання open-source ШІ (програмного забезпечення, коли вихідний код доступний для перегляду, зміни та розповсюдження будь-кому, а не лише розробникам компанії) для фішингу, дискредитації, кіберзлочинів – зараз це поза зоною відповідальності.
– запровадження обов’язкового етичного навчання для користувачів ШІ у державному секторі. Формування мінімальної етичної компетенції в держслужбі, суддівському корпусі, педагогіці.
Як висновок всього сказаного мною вище – необхідно застосувати комплексний підхід до регулювання АІ в Україні – Етика + Закон + Кодекси.
Законодавчий рівень: закріпити статус користувача ШІ як окремої правової категорії. Визначити поняття «користувач ШІ», «алгоритмічне рішення», «цифрова обачність», прийняти спеціальний Закону України «Про штучний інтелект», орієнтованого на ризик-орієнтовану модель (за аналогією з AI Act). Включення обов’язків користувача систем у законопроект № 8153 (про обробку персональних даних).
Етика: впровадити етичні кодекси використання ШІ у професіях, де алгоритмічне рішення впливає на права людини. Розробити галузеві кодекси ШІ-етики для освітян, юристів, журналістів, лікарів. Визначити чіткі межі делегування рішень алгоритму у відповідних професійних стандартах.
Освіта та підготовка користувачів: забезпечити етичну обізнаність користувачів. Інтегрувати модулі «Етика і ШІ» у програми вищої освіти. Здіснити заходи для підготовки службовців, освітян, лікарів, суддів за напрямом AI ethics & law. Створити сертифіковані курси для публічних користувачів.
Інституційна практика і процедури: запровадити стандартизовані процедури підзвітності при роботі з ШІ у державному секторі. Впровадити accountability chain (ланцюг підзвітності) у всіх етапах взаємодії з ШІ та ведення журналів логування рішень і рецензійної перевірки. Встановити обов’язковий етичний аудиту для систем високого ризику.
Громадянське суспільство і прозорість: забезпечити публічний контроль за використанням ШІ. Створити платформу подання скарг на автоматизовані рішення. Запустити паспорта прозорості для кожної публічної системи ШІ. Залучити громадські організацій до етичних рад.
Слід зауважити, що навіть ідеальний закон не працюватиме без: етичного кодексу користувача, механізму контролю/аудиту (незалежні інститути або етичні ради), прав громадян на захист і пояснення, включно з механізмами звернення та компенсацій.
Разом, всі ці документи можуть сформувати фундаментальну основу для регулювання АІ в Україні. Проте необхідно розуміти, що вони потребують чіткого нормативного наповнення, значної інституційної підтримки, впровадження на всіх рівнях від освіти до правосуддя.
ВИСНОВКИ: ВІД КОНЦЕПЦІЇ ДО ВІДПОВІДАЛЬНОСТІ
Необхідно переорієнтувати оптику етики ШІ – від розробника, держави чи алгоритму – до особи користувача, як повноцінного морального, правового та соціального агента. Такий підхід вимагає не лише нових термінів, а й нових парадигм відповідальності, які враховують гібридну природу цифрового вибору, розподілену агентність і непрозорість алгоритмічного впливу.
Етична модель є не лише філософською конструкцією, а практичним етичним інструментом, який дозволяє користувачеві структурувати свою поведінку в умовах техноетичної невизначеності.
Користувач не є технічним “посередником”, а повноцінним учасником морального ланцюга, який несе відповідальність за запуск, перевірку, фільтрацію та інтерпретацію результатів ШІ.
Відповідальність користувача є багаторівневою: юридичною, етичною, професійною, інституційною, соціальною — і жодна з них не може замінити іншу.
Міжнародні документи (AI Act, ЮНЕСКО, OECD) уже передбачають обов’язки користувача, зокрема: логування, аудит, право на пояснення, human oversight (нагляд і контроль з боку людей за розробкою, впровадженням та використанням систем ШІ).
Українське законодавство не охоплює фігуру користувача як суб’єкта відповідальності, що створює зону етичної і правової невизначеності – з високими ризиками для громадян і держави.
Без системного підходу в етичному, законодавчому, врегулювання та без належної цифрової освіти – це не дає гарантії, що системи ШІ діють у відповідності з людськими цінностями, етичними нормами та не завдають шкоди.
Етична презумпція: відповідальність — завжди людська.
Етика користувача – це інфраструктура довіри, без якої будь-яка цифровізація втрачає легітимність.
Попри автоматизацію, складність систем та залучення великих мовних моделей, етична відповідальність залишається на людині.
ШІ не має свідомості, наміру чи моральної автономії – відповідно, жоден алгоритм не може бути етичним суб’єктом. Тому: вибір джерел, перевірка фактів, корекція упереджень, ухвалення остаточних рішень залишаються виключною прерогативою користувача.
Цей принцип має бути зафіксований як у професійній етиці, так і в нормативному полі.
Україна, що прагне цифрової трансформації та євроінтеграції, повинна не лише переймати технології, а й формувати власну модель відповідальності та поведінки у цифрову добу.
Запровадження законодавчих стандартів, професійної етики, освітніх програм та механізмів підзвітності може перетворити Україну на етичний центр цифрової Європи, який задає нові правила взаємодії між людиною й алгоритмом.
