Вікіпедія

Акт про штучний інтелект

Акт про шту́чний інтеле́кт (АШІ; англ. Artificial Intelligence Act, AI Act) — ухвалений 13 березня 2024 року Європейським парламентом регламент, який має забезпечити безпеку і дотримання прав громадян при застосуванні штучного інтелекту (ШІ).[1][2][3][4][5]

Регламент № 2024/1689
Регламент Європейського Союзу
Текст, що стосується Європейської економічної зони
НазваАкт про штучний інтелект
Ким прийнятийЄвропейський парламент і Європейська рада
Офіційний вісник ЄСOJ L, 2024/1689, 12.7.2024
Історія
Дата введення в дію1 серпня 2024
Інше законодавство
ВиправляєРегламенти (ЄС) № 300/2008, (ЄС) № 167/2013, (ЄС) № 168/2013, (ЄС) 2018/858, (ЄС) 2018/1139 та (ЄС) 2019/2144 та Директиви 2014/90 /ЄС
Чинне законодавство

Цей нормативний акт, запропонований 21 квітня 2021 року Європейською комісією, метою якого є запровадження спільної нормативно-правової бази для штучного інтелекту.[6][7] Його сфера дії охоплює всі сектори (за винятком військового) та всі типи штучного інтелекту. Як елемент регулювання продуктів, пропозиція не надає прав окремим особам, але регулює діяльність постачальників систем штучного інтелекту та суб'єктів, які користуються ними у професійній діяльности.

Акт про штучний інтелект має на меті класифікувати та регулювати програми штучного інтелекту на основі їхнього потенційного ризику. Ця класифікація в основному поділяється на три категорії: заборонені практики, системи з високим ступенем ризику та інші технології штучного інтелекту.[8]

Заборонені практики — це ті, що використовують штучний інтелект для свідомої маніпуляції або зловживання слабкостями людей, що може призвести до фізичної або психологічної шкоди, невибіркового використання біометричної ідентифікації в реальному часі в громадських місцях для забезпечення правопорядку або використання владою "соціальних оцінок", отриманих за допомогою штучного інтелекту, для обмеження прав окремих осіб чи груп. Регламент повністю забороняє останнє, в той час, як для перших трьох пунктів пропонується режим дозволу в контексті правоохоронної діяльности.[9]

Згідно із регламентом, системи з високим ступенем ризику — це системи, які становлять значну загрозу здоров'ю, безпеці або основним правам людини. Вони потребують обов'язкової оцінки відповідности, яку постачальник здійснює самостійно, перед тим, як вивести їх на ринок. Особливо небезпечні програми, такі як для медичних пристроїв, вимагають, відповідно до вимог Акту про штучний інтелект, щоб результати самостійного аудиту постачальника були розглянуті уповноваженим органом, який здійснює оцінювання відповідно до чинних нормативних актів ЄС, таких як Регламент про медичні вироби.

Системи штучного інтелекту, що не належать до вищезазначених категорій, не підлягають жодному регулюванню, а держави-члени ЄС здебільшого позбавлені можливости їх подальшого регламентування шляхом максимальної уніфікації. Існуючі державні закони, пов'язані з розробкою або використанням таких систем, не підлягають застосуванню. Однак передбачається, хоча і не з самого початку, запровадження добровільного кодексу дій для таких систем.[8]

Регламент також пропонує запровадити Європейську раду зі штучного інтелекту для національного співробітництва та забезпечення дотримання правил.[10]

Як і Загальний регламент Європейського Союзу про захист даних, Акт про штучний інтелект може набути світового значення.[11] Він уже має вплив за межами Європи: у вересні 2021 року Конгрес Бразилії ухвалив законопроєкт, який закладає правову основу для штучного інтелекту.[12] 6 грудня 2022 року Європейська Рада ухвалила загальний підхід щодо Акту про штучний інтелект.[13] Німеччина підтримує позицію Ради, але все ж бачить певну потребу в подальшому вдосконаленні, як було зазначено в супровідній заяві держави-члена.[14] Серед заходів, які, ймовірно, будуть запропоновані, — зобов'язання розробників штучного інтелекту таких продуктів, як ChatGPT від Open AI, декларувати, чи використовувалися матеріали, захищені авторським правом, для навчання їхньої технології.[15]

Положення

ред.

Категорії ризику

ред.

Існують різні категорії ризику залежно від типу програми, причому окрема категорія присвячена генеративному ШІ загального призначення:

  • Неприйнятний ризик – програми штучного інтелекту в цій категорії заборонені, за винятком окремих винятків.[16] Якщо винятки не застосовуються, сюди входять додатки штучного інтелекту, які маніпулюють людською поведінкою, ті, що використовують віддалену біометричну ідентифікацію в реальному часі (наприклад, розпізнавання обличчя ) у громадських місцях, а також ті, що використовуються для соціального оцінювання (ранжування осіб на основі їхніх особистих характеристик, соціально- економічний статус або поведінка).[17]
  • Високий ризик – програми штучного інтелекту, які, як очікується, створюватимуть серйозну загрозу здоров’ю, безпеці чи основним правам людей. Зокрема, системи штучного інтелекту, які використовуються в охороні здоров’я, освіті, підборі кадрів, управлінні критичною інфраструктурою, правоохоронних органах або правосудді. Вони підлягають зобов’язанням щодо якости, прозорости, людського контролю та безпеки, а в деяких випадках вимагають «Оцінки впливу на основні права» перед розгортанням.[18] Вони повинні бути оцінені як перед тим, як вийти на ринок, так і протягом усього життєвого циклу. Перелік програм високого ризику може бути розширений з часом без необхідности змінювати сам Закон про штучний інтелект.[19]
  • Штучний інтелект загального призначення – доданий у 2023 році, ця категорія включає зокрема базові моделі, такі як ChatGPT. Якщо вагові коефіцієнти та архітектура моделі не оприлюднені за безкоштовною ліцензією з відкритим вихідним кодом, у цьому випадку потрібні лише зведення навчальних даних і політика дотримання авторських прав, вони підлягають вимогам прозорости. Високоефективні системи штучного інтелекту загального призначення, включаючи безкоштовні та з відкритим вихідним кодом, які можуть становити системні ризики (зокрема ті, які навчені з використанням обчислювальних можливостей, що перевищують 10 FLOPS)[20] також повинні пройти процес ретельної оцінки.[17]
  • Обмежений ризик – системи штучного інтелекту в цій категорії мають зобов’язання щодо прозорости, гарантуючи, що користувачі інформовані про те, що вони взаємодіють із системою штучного інтелекту, і дозволяють їм робити обґрунтований вибір. Ця категорія включає, наприклад, програми штучного інтелекту, які дозволяють генерувати зображення, звук або відео або маніпулювати ними (як-от дипфейк).[17]
  • Мінімальний ризик – ця категорія включає, наприклад, системи AI, які використовуються для відеоігор, або фільтри спаму. Очікується, що більшість програм штучного інтелекту належать до цієї категорії.[21] Ці системи не регулюються, і держави-члени не можуть вводити додаткові правила через правила максимальної гармонізації. Існуючі національні закони щодо проєктування або використання таких систем мають перевагу. Проте пропонується добровільний кодекс поведінки.[22]

Винятки

ред.

Статті 2.3 і 2.6 звільняють системи штучного інтелекту, які використовуються в цілях військової чи національної безпеки або суто наукових досліджень і розробок, від Акту про штучний інтелект.[23]

Стаття 5.2 забороняє алгоритмічне відеоспостереження лише за умови, що воно ведеться в режимі реального часу. Винятки, які дозволяють здійснювати алгоритмічне відеоспостереження в режимі реального часу, включають поліцейські цілі, включаючи «реальну та поточну або реальну та передбачувану загрозу терористичної атаки».[24]

У пункті 31 акту зазначено, що він має на меті заборонити «системи штучного інтелекту, які забезпечують соціальну оцінку фізичних осіб державними або приватними суб’єктами», але дозволяє «законну практику оцінювання фізичних осіб, яка виконується з певною метою відповідно до законодавства».

Управління

ред.

Акт про ШІ засновує різні нові органи в статті 64 і наступних статтях. На ці органи покладено виконання та забезпечення виконання Закону. Цей підхід поєднує координацію на рівні ЄС із впровадженням на національному рівні, залучаючи як органи державної влади, так і приватний сектор.

Будуть створені такі нові органи:[25][26]

  1. Офіс штучного інтелекту: при Європейській комісії цей орган координуватиме імплементацію Закону про штучний інтелект у всіх державах-членах і наглядатиме за відповідністю постачальників штучного інтелекту загального призначення.
  2. Європейська рада зі штучного інтелекту: Рада, що складається з одного представника від кожної держави-члена, консультуватиме та допомагатиме Комісії та державам-членам сприяти послідовному та ефективному застосуванню Закону про ШІ. Його завдання включають збір і обмін технічним і регуляторним досвідом, надання рекомендацій, письмових висновків та інших порад.
  3. Консультативний форум: створений для консультування та надання технічної експертизи Раді та Комісії, цей форум представлятиме збалансований вибір зацікавлених сторін, включаючи промисловість, стартапи, малі та середні підприємства, громадянське суспільство та наукові кола, забезпечуючи, щоб широкий спектр думок представлений у процесі впровадження та застосування.
  4. Наукова група незалежних експертів: ця група надаватиме технічні поради та внесок Управлінню штучного інтелекту та національним органам влади, забезпечуватиме дотримання правил для моделей штучного інтелекту загального призначення (зокрема, надсилаючи кваліфіковані попередження про можливі ризики Офісу штучного інтелекту) і гарантуватиме, що правила і реалізація Акту про ШІ відповідає останнім науковим висновкам.

Хоча створення нових органів планується на рівні ЄС, держави-члени повинні створити «національні компетентні органи». Ці органи відповідатимуть за забезпечення застосування та імплементацію Акту про ШІ, а також за проведення «ринкового нагляду».[27] Вони перевірятимуть відповідність систем штучного інтелекту нормам, зокрема шляхом перевірки належного виконання оцінок відповідности та призначення третіх сторін для проведення зовнішніх оцінок відповідности.

Правозастосування

ред.

Акт регулює вихід ШІ на внутрішній ринок ЄС з використанням нової законодавчої бази. Він містить основні вимоги, яким мають відповідати всі системи штучного інтелекту, щоб вийти на ринок ЄС. Ці основні вимоги передаються до європейських організацій стандартизації, які розробляють технічні стандарти, які детальніше деталізують ці вимоги.[28] Ці стандарти розроблено CEN/CENELEC JTC 21.[29]

Акт передбачає, що держави-члени створюють власні нотифікуючі органи. Оцінки відповідности проводяться, щоб перевірити, чи відповідають системи штучного інтелекту стандартам, викладеним в Акті про штучний інтелект.[30] Цю оцінку можна здійснити двома способами: або через самооцінку, коли постачальник системи ШІ перевіряє відповідність, або через оцінку відповідности третьою стороною, коли нотифікуючий орган проводить оцінку.[31] Нотифікуючі органи також мають повноваження проводити авдити для забезпечення належної оцінки відповідности.[32]

Виникає критика щодо того факту, що багато систем штучного інтелекту з високим ризиком не потребують оцінки відповідности третіми сторонами.[33][34][35] Деякі коментатори стверджують, що незалежні сторонні оцінки необхідні для систем ШІ з високим ризиком, щоб забезпечити безпеку перед розгортанням. Правники вважають, що системи штучного інтелекту, здатні генерувати дипфейки для політичної дезінформації або створювати інтимні образи без згоди, слід класифікувати як високоризикові та піддавати суворішому регулюванню.[36]

Законодавча процедура

ред.

У лютому 2020 року Європейська комісія опублікувала «Білу книгу про штучний інтелект – європейський підхід до досконалости та довіри».[37] У жовтні 2020 року в Європейській раді відбулися дебати між лідерами ЄС. 21 квітня 2021 року Комісія офіційно запропонувала акт про ШІ.[38] 6 грудня 2022 року Європейська Рада прийняла загальну орієнтацію, що дозволило розпочати переговори з Європейським парламентом. 9 грудня 2023 року, після трьох днів «маратонських» переговорів, Рада Європейського Союзу і Парламент уклали угоду.[39][40]

Акт був прийнятий в Європейському парламенті 13 березня 2024 року 523 голосами «за», 46 «проти» і 49 «утрималися».[41] Він був схвалений Радою ЄС 21 травня 2024 року.[42] Він набув чинности 1 серпня 2024 року,[43] через 20 днів після публікації в Офіційному віснику 12 липня 2024 року.[44][45]

Реакції

ред.

Експерти стверджують, що хоча юрисдикція регламенту є європейською, він може мати далекосяжні наслідки для міжнародних компаній, які планують розширити свою діяльність у Європі.[46] Ану Бредфорд з Колумбійського університету стверджує, що акт дає значний імпульс всесвітньому руху за регулювання технологій ШІ.[46]

Amnesty International розкритикували акт про штучний інтелект за те, що він не повністю забороняє розпізнавання облич у реальному часі, яке, за їхніми словами, може завдати шкоди «правам людини, громадянському простору та верховенству права» в Європейському Союзі. Вони також розкритикували відсутність заборони на експорт технологій ШІ, які можуть завдати шкоди правам людини.[47]

Деякі технічні спостерігачі стверджують, що в акті є серйозні лазівки, які дозволять великим технологічним монополіям закріпити свою перевагу в штучному інтелекті або лобіювати послаблення правил.[48][49] Деякі стартапи привітали роз’яснення, яке надає акт, а інші стверджували, що додаткове регулювання зробить європейські стартапи неконкурентоспроможними порівняно з американськими й азійськими.[49] La Quadrature du Net (LQDN) описали Акт про штучний інтелект як «розроблений спеціально для індустрії технологій, європейських поліцейських сил, а також інших великих бюрократичних установ, які прагнуть автоматизувати соціальний контроль». LQDN описав роль саморегулювання та винятків у законі, щоб зробити його «в основному неспроможним стояти на шляху соціальної, політичної та екологічної шкоди, пов’язаної з розповсюдженням ШІ».[50]

Див. також

ред.

Примітки

ред.
  1. ↑ Artificial Intelligence Act: MEPs adopt landmark law | News | European Parliament. European Parliament (англ.). 13-03-2024, 12:25. Процитовано 14 березня 2024.
  2. ↑ Європарламент схвалив закон про штучний інтелект. «Deutsche Welle». 13 березня 2024. Процитовано 14 березня 2024.
  3. ↑ Європарламент ухвалив перший у світі закон про обмеження штучного інтелекту. Українська правда. 13 березня 2024.
  4. ↑ Європарламент ухвалив закон, який регулює роботу штучного інтелекту. «Радіо Свобода». 13 березня 2024, 17:09.
  5. ↑ Європарламент ухвалив історичний закон про регулювання штучного інтелекту. «zmina.info» zmina. 13 березня 2024.
  6. ↑ EUR-Lex - 52021PC0206 - EN - EUR-Lex. eur-lex.europa.eu. Архів оригіналу за 23 серпня 2021. Процитовано 7 вересня 2021.
  7. ↑ Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe's digital future. digital-strategy.ec.europa.eu (англ.). Архів оригіналу за 4 січня 2023. Процитовано 9 січня 2023.
  8. ↑ а б Veale, Michael (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International. 22 (4). doi:10.31235/osf.io/38p5f.
  9. ↑ Mueller, Benjamin (4 травня 2021). The Artificial Intelligence Act: A Quick Explainer. Center for Data Innovation (амер.). Архів оригіналу за 14 жовтня 2022. Процитовано 14 листопада 2021.
  10. ↑ Propp, Mark MacCarthy and Kenneth (4 травня 2021). Machines learn that Brussels writes the rules: The EU's new AI regulation. Brookings (амер.). Архів оригіналу за 27 жовтня 2022. Процитовано 7 вересня 2021.
  11. ↑ Home. The Artificial Intelligence Act (амер.). 7 вересня 2021. Архів оригіналу за 17 лютого 2022. Процитовано 17 лютого 2022.
  12. ↑ Câmara aprova projeto que regulamenta uso da inteligência artificial - Notícias. Portal da Câmara dos Deputados (pt-br) . Архів оригіналу за 17 лютого 2022. Процитовано 17 лютого 2022.
  13. ↑ Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights. www.consilium.europa.eu (англ.). Архів оригіналу за 9 січня 2023. Процитовано 9 січня 2023.
  14. ↑ Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts General approach - Statement by Germany. www.data.consilium.europa.eu. Архів оригіналу за 27 січня 2023. Процитовано 9 січня 2023.
  15. ↑ European parliament prepares tough measures over use of artificial intelligence. Financial Times. 14 квітня 2023. Архів оригіналу за 14 квітня 2023. Процитовано 14 квітня 2023.
  16. ↑ With the AI Act adopted, the techno-solutionist gold-rush can continue — La Quadrature du Net, 2024.
  17. ↑ а б в EU AI Act: first regulation on artificial intelligence. European Parliament News (англ.). Архів оригіналу за 10 січня 2024. Процитовано 6 січня 2024.
  18. ↑ Mantelero, Alessandro (2022), Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series, т. 36, The Hague: Springer-T.M.C. Asser Press, doi:10.1007/978-94-6265-531-7, ISBN 978-94-6265-533-1
  19. ↑ Mueller, Benjamin (4 травня 2021). The Artificial Intelligence Act: A Quick Explainer. Center for Data Innovation (амер.). Архів оригіналу за 14 жовтня 2022. Процитовано 6 січня 2024.
  20. ↑ Bertuzzi, Luca (7 грудня 2023). AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement. Euractiv (брит.). Архів оригіналу за 8 січня 2024. Процитовано 6 січня 2024.
  21. ↑ Liboreiro, Jorge (21 квітня 2021). 'Higher risk, stricter rules': EU's new artificial intelligence rules. Euronews (англ.). Архів оригіналу за 6 січня 2024. Процитовано 6 січня 2024.
  22. ↑ Veale, Michael; Borgesius, Frederik Zuiderveen (1 серпня 2021). Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach. Computer Law Review International (англ.). 22 (4): 97—112. arXiv:2107.03721. doi:10.9785/cri-2021-220402. ISSN 2194-4164.
  23. ↑ With the AI Act adopted, the techno-solutionist gold-rush can continue — La Quadrature du Net, 2024.
  24. ↑ With the AI Act adopted, the techno-solutionist gold-rush can continue — La Quadrature du Net, 2024.
  25. ↑ Bertuzzi, Luca (21 листопада 2023). EU lawmakers to discuss AI rulebook's revised governance structure. Euractiv. Архів оригіналу за 22 травня 2024. Процитовано 18 квітня 2024.
  26. ↑ Friedl, Paul; Gasiola, Gustavo Gil (7 лютого 2024). Examining the EU's Artificial Intelligence Act. Verfassungsblog (брит.). doi:10.59704/789d6ad759d0a40b. Архів оригіналу за 22 травня 2024. Процитовано 16 квітня 2024.
  27. ↑ Artificial Intelligence – Questions and Answers. European Commission. 12 грудня 2023. Архів оригіналу за 6 квітня 2024. Процитовано 17 квітня 2024.
  28. ↑ Tartaro, Alessio (2023). Regulating by standards: current progress and main challenges in the standardisation of Artificial Intelligence in support of the AI Act. European Journal of Privacy Law and Technologies. 1 (1). Архів оригіналу за 3 грудня 2023. Процитовано 10 грудня 2023.
  29. ↑ With the AI Act, we need to mind the standards gap. CEPS (брит.). 25 квітня 2023. Процитовано 15 вересня 2024.
  30. ↑ Шаблон:CELEX
  31. ↑ Veale, Michael; Borgesius, Frederik Zuiderveen (1 серпня 2021). Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach. Computer Law Review International (англ.). 22 (4): 97—112. arXiv:2107.03721. doi:10.9785/cri-2021-220402. ISSN 2194-4164.
  32. ↑ Casarosa, Federica (1 червня 2022). Cybersecurity certification of Artificial Intelligence: a missed opportunity to coordinate between the Artificial Intelligence Act and the Cybersecurity Act. International Cybersecurity Law Review (англ.). 3 (1): 115—130. doi:10.1365/s43439-021-00043-6. ISSN 2662-9739.
  33. ↑ Smuha, Nathalie A.; Ahmed-Rengers, Emma; Harkens, Adam; Li, Wenlong; MacLaren, James; Piselli, Riccardo; Yeung, Karen (5 серпня 2021). How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission's Proposal for an Artificial Intelligence Act. SSRN 3899991.
  34. ↑ Ebers, Martin; Hoch, Veronica R. S.; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (December 2021). The European Commission's Proposal for an Artificial Intelligence Act—A Critical Assessment by Members of the Robotics and AI Law Society (RAILS). J: Multidisciplinary Scientific Journal (англ.). 4 (4): 589—603. doi:10.3390/j4040043. ISSN 2571-8800.
  35. ↑ Almada, Marco; Petit, Nicolas (27 жовтня 2023). The EU AI Act: Between Product Safety and Fundamental Rights. SSRN 4308072.
  36. ↑ Romero-Moreno, Felipe (29 березня 2024). Generative AI and deepfakes: a human rights approach to tackling harmful content. International Review of Law, Computers & Technology. 39 (2): 1—30. doi:10.1080/13600869.2024.2324540. ISSN 1360-0869. {{cite journal}}: |hdl-access= вимагає |hdl= (довідка)
  37. ↑ White Paper on Artificial Intelligence – a European approach to excellence and trust (англ.). European Commission. 19 лютого 2020. Архів оригіналу за 5 січня 2024. Процитовано 6 січня 2024.
  38. ↑ Шаблон:CELEX
  39. ↑ Шаблон:CELEX
  40. ↑ Timeline – Artificial intelligence. European Council. 9 грудня 2023. Архів оригіналу за 6 січня 2024. Процитовано 6 січня 2024.
  41. ↑ Artificial Intelligence Act: MEPs adopt landmark law. European Parliament (англ.). 13 березня 2024. Архів оригіналу за 15 березня 2024. Процитовано 14 березня 2024.
  42. ↑ Browne, Ryan (21 травня 2024). World's first major law for artificial intelligence gets final EU green light. CNBC (англ.). Архів оригіналу за 21 травня 2024. Процитовано 22 травня 2024.
  43. ↑ AI Act enters into force (Пресреліз). Brussels: European Commission. 1 серпня 2024. Процитовано 5 серпня 2024.
  44. ↑ World's first major act to regulate AI passed by European lawmakers. CNBC. 14 березня 2024. Архів оригіналу за 13 березня 2024. Процитовано 13 березня 2024.
  45. ↑ David, Emilia (14 грудня 2023). The EU AI Act passed — now comes the waiting. The Verge (англ.). Архів оригіналу за 10 січня 2024. Процитовано 6 січня 2024.
  46. ↑ а б Europe agreed on world-leading AI rules. How do they work and will they affect people everywhere?. AP News (англ.). 11 грудня 2023. Процитовано 31 травня 2024.
  47. ↑ Europe agreed on world-leading AI rules. How do they work and will they affect people everywhere?. AP News (англ.). 11 грудня 2023. Процитовано 31 травня 2024.
  48. ↑ EU parliament greenlights landmark artificial intelligence regulations. Al Jazeera (англ.). Процитовано 31 травня 2024.
  49. ↑ а б The EU passed the first AI law. Tech experts say it's 'bittersweet'. euronews (англ.). 16 березня 2024. Процитовано 31 травня 2024.
  50. ↑ With the AI Act adopted, the techno-solutionist gold-rush can continue — La Quadrature du Net, 2024.

Посилання

ред.
Отримано з https://uk.wiki.x.io/w/index.php?title=Акт_про_штучний_інтелект&oldid=44401625