Засади гармонізованого використання технології штучного інтелекту в судовій системі

ПРЕАМБУЛА

Вища рада правосуддя з усвідомленням невідворотності подальшого спільного розвитку правосуддя та технологій, вірою у те, що технологічні новації мають доєднатися до захисту авторитету правосуддя та прагненням зробити судові процедури більш людиноорієнтованими, затверджує ці Засади гармонізованого використання технології штучного інтелекту в судовій системі (далі — Засади).

Використання технологій штучного інтелекту має бути сумісним із правом на справедливий суд, незалежністю суддів, рівністю учасників процесу та іншими фундаментальними правами і гарантіями. Штучний інтелект є інструментом на службі правосуддя, а не його суб’єктом.

Впровадження штучного інтелекту не повинно підривати суспільну довіру до судів через непрозорість, алгоритмічні упередження або технічні помилки. Технології штучного інтелекту мають слугувати підвищенню ефективності та якості правосуддя без шкоди для його авторитету.

Ці Засади покликані стати містком між сталістю юридичних процедур у судовій системі та динамічністю сучасних технологій. Засади не встановлюють окремих заборон, а окреслюють орієнтири, у напрямку яких має розвиватися використання технологій штучного інтелекту. Засади не замінюють собою правила управління безпековими ризиками під час використання конкретних програмних продуктів, настанов виробників та окремих інституцій щодо їх використання.

НЕОБХІДНІСТЬ

Остаточне рішення щодо використання технології штучного інтелекту під час виконання завдань кожен має визначати самостійно, якщо таке використання не було визначено обов’язковим керівником, обумовлено діловим процесом або здійснюється автоматично інформаційними автоматизованими системами, які забезпечують роботу.

Пояснення. Технічні й допоміжні завдання (пошук, систематизація, переклад, форматування) допускають ширшу автономію технології. Завдання, що безпосередньо формують основу для ухвалення рішень, вимагають посиленої перевірки людиною.

КОМПЕТЕНТНІСТЬ

Пояснення. Ефективність і безпечність використання технології визначається насамперед компетентністю користувача. Розуміння природи моделей (імовірнісний характер відповідей, залежність від якості запиту, можливість галюцинацій) є передумовою застосування усіх інших засад.

УСВІДОМЛЕНІСТЬ

Пояснення. Штучний інтелект є лише інтерфейсом, який працює за принципом запит-відповідь. Оператор самостійно задає напрямок відповіді у запиті, чим може впливати на отриманий результат. Якість відповіді залежить від якості запиту, характеру, форми та інших чинників, які безпосередньо залежать від запитувача. По суті, це є формою програмування, де суддя (інший працівник суду) є програмістом, який задає команди.

У доктрині права інтелектуальної власності результати такого комп’ютерного програмування охороняються правом особливого роду (sui generis).

Пояснення. Відповідальність слідує за повноваженням: хто уповноважений на результат, той і відповідає за нього незалежно від інструментів, використаних для його досягнення.

Пояснення. Вказане правило потрібне як противага/деталізація помилкового підходу, закладеного в статті 16 Кодексу суддівської етики, у якій визначено, що штучний інтелект не може підмінювати людську оцінку доказів. Штучний інтелект дозволяє алгоритмам швидко зіставляти зображення, витягувати релевантну інформацію та групувати дані, надаючи судді зручну базу для ухвалення рішення без порушення його монополії на здійснення правосуддя.

Водночас процес виявлення та надання даних судді передбачає, що такі дані будуть проходити певне оброблення (зміну). У будь-якому випадку рішення судді буде залежати від того, чи (1) буде отримано увесь обсяг інформації та (2) чи буде ця інформація змінена.

Ідентично буде працювати і модель, за якої суддя самостійно опрацьовуватиме докази. У такому варіанті рішення залежатиме від того, чи (1) перевірить суддя усі докази та (2) чи буде це здійснено з належною ретельністю.

Таким чином, для диспуту залишається лише одне запитання: «Хто може допустити більше помилок під час аналізу значного обсягу інформації: ШІ чи суддя?»

НЕУПЕРЕДЖЕНІСТЬ

Пояснення. Перший закон робототехніки, сформульований письменником-фантастом Айзеком Азімовим, говорить: «Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди».

Штучний інтелект не є класичним роботом, оскільки його асистивна природа полягає у виконанні доручень людини, людини з її гарними та, можливо, поганими намірами. Основою та одночасно сутністю правосуддя є неупередженість. Саме тому із самого початку взаємодії зі штучним інтелектом він не повинен отримувати будь-яких етичних настанов з приводу того, хто в досліджуваній ситуації вчинив добре, а хто погано, які обставини мають негативний характер, а які позитивний.

Пояснення. Упередження моделі не завжди є очевидним і може проявлятися у доборі аргументів, акцентах чи тональності відповіді. Критичне сприйняття таких результатів людиною є основним запобіжником перенесення алгоритмічних упереджень у правозастосування.

Звернення до іншої моделі за аналогічних обставин може здійснюватися лише з метою перевірки її самостійної реакції на той самий запит і не повинно мати на меті подолання обмежень, виявлених попередньою моделлю.

Пояснення. В окремих випадках модель може відмовитися надавати відповідь, посилаючись на власні правила. Ці правила можуть бути релевантними обмеженнями, установленими законодавством, а можуть бути сформовані виключно на основі політик компанії-розробника. Подальші спроби отримати відповідь моделі можуть призвести до нерелевантного результату, якщо оператор намагатиметься спотворити вихідні дані чи приховати реальну мету дослідження.

ДОСТОВІРНІСТЬ

Пояснення. Якщо матеріали, які мають досліджуватися з метою ухвалення певного рішення, вже містять правові висновки того самого або іншого суб’єкта правозастосування, зроблені на підставі тих самих матеріалів, потрібно відокремити попередні висновки від засновків.

Основою для формування штучним інтелектом певних результатів мають стати чисті вихідні дані без документів, які містять оцінку обставин, зроблену іншим суб’єктом. Під час використання штучного інтелекту має бути дотримано двоетапності аналізу:

Етап 1

Мають бути надані матеріали, що не містять рішень суб’єкта правозастосування, якщо такі рішення не є предметом самостійного оскарження безвідносно таких матеріалів. Наприклад, штучний інтелект має зробити власні висновки на основі:

• доводів сторін (позов, відзив, заперечення тощо) без рішень судів;
• дисциплінарної скарги без висновку дисциплінарного інспектора;
• матеріалів щодо кандидата без висновку доповідача.

Етап 2

Мають бути надані усі матеріали, зокрема разом з висновками суб’єкта правозастосування тієї самої інституційної належності.

Приклади:

Податкові спори. На 1 етапі надаються матеріали платника податків, які були предметом дослідження, позовна заява, акт перевірки, податкове повідомлення-рішення. На цьому етапі НЕ надаються рішення податкових органів у процедурі адміністративного оскарження, а також рішення судів попередніх інстанцій чи за результатами попередніх розглядів цієї справи (якщо такі були чи справа направлялася на новий розгляд).

Після отримання результатів такого аналізу вони разом з усіма матеріалами передаються для повторної оцінки із завданням щодо виявлення помилковості власних попередніх висновків.

Апеляційне та касаційне оскарження, новий розгляд. На 1 етапі передаються лише матеріали справи без рішень судів першої та апеляційної інстанцій (за наявності) чи судів, які вже розглядали справу раніше. На 2 етапі передаються усі матеріали та рішення.

Дисциплінарне провадження щодо судді чи прокурора. На 1 етапі передаються матеріали дисциплінарного провадження без висновку дисциплінарного інспектора чи Кваліфікаційно-дисциплінарної комісії прокурорів. На 2 етапі передаються матеріали з усіма висновками та рішеннями.

Формування суддівського корпусу. На 1 етапі передаються усі матеріали щодо кандидата, які були отримані. Якщо процедура здійснюється Вищою радою правосуддя, то на 1 етапі не передаються рішення Вищої кваліфікаційної комісії суддів України, які містять власні висновки щодо доброчесності кандидата. На 2 етапі подаються усі матеріали.

Такий підхід дозволить отримати базові чисті результати дослідження без обтяження висновками інших суб’єктів правозастосування. На другому етапі можна буде зіставити помилковість чистих висновків з урахуванням кваліфікованої думки суб’єкта, який робить чи робив аналогічний аналіз.

Пояснення. Моделі здатні генерувати правдоподібні, але неточні або неіснуючі відомості (так звані галюцинації), зокрема вигадані реквізити судових рішень чи неіснуючі редакції норм. Перевірка за первинним джерелом є мінімальним стандартом достовірності для будь-якого юридично значущого результату.

Пояснення

У певних категоріях складних спорів чи завданнях, які вимагають підготовки звітів, варто забезпечити механізм крос-перевірки результатів різними моделями. Наприклад, якщо потрібно провести аналіз матеріалів судової справи щодо розрахунку грошового забезпечення військовослужбовцям за різні періоди, то ідентичні завдання відправляються для аналізу різним моделям. В ідеалі варто забезпечити кворум із 3 моделей (ChatGPT, Claude, Gemini). Після отримання однакових результатів вони беруться до використання. Якщо є розбіжності, то усі три результати передаються одній із моделей для перевірки. Якщо було 2 подібні результати, а один відмінний, то передається моделі, у якої результат збігається з результатом іншої.

Попри більшу вартість, такий прийом дозволить суттєво мінімізувати ризики і може бути дешевшим та швидшим, ніж залучення людини.

Пояснення

Під час використання штучного інтелекту слід використовувати рекомендовані промпти і SKILL, якщо такі промпти і SKILL були попередньо створені та рекомендовані для використання в межах органу чи галузі. Єдність методики забезпечує порівнюваність та передбачуваність результатів у межах однорідних завдань.

Для цього має бути забезпечена можливість отримання від особи, яка створила або надала такі документи, підтвердження щодо використання чи невикористання штучного інтелекту під час їх створення або зміни.

У разі якщо документи були створені або змінені з використанням штучного інтелекту, про це слід повідомити модель, яка використовується для їх подальшого дослідження.

ПРОЗОРІСТЬ

Пояснення. Прозорість не означає обов’язкового маркування кожного випадку використання, проте передбачає спроможність у будь-який момент відтворити логіку роботи. Саме така спроможність є умовою збереження суспільної довіри у разі виникнення сумнівів щодо якості результату.

КОНТРОЛЬОВАНІСТЬ

Пояснення . Не можна доручати штучному інтелекту ухвалювати рішення в будь-яких процедурах, якщо таке рішення є остаточним і впливатиме на права та обов’язки без можливості виправлення чи оскарження такого рішення. Це стосується не випадків здійснення аналізу, а випадків підготовки рішень без детального аналізу людиною.

КОНФІДЕНЦІЙНІСТЬ

Для роботи з матеріалами справ чи іншою чутливою інформацією повинні використовуватися лише локальні або спеціально ліцензовані рішення, постачальники яких повідомили умови захисту даних та навчання моделей.

АДАПТИВНІСТЬ

Пояснення. Динамічність технологій, задекларована у преамбулі, вимагає, щоб і самі орієнтири залишалися живим документом. Перегляд Засад має ґрунтуватися на аналізі практики їх застосування, зокрема виявлених ризиках і здобутках.