Въпреки това, тази бързо развиваща се технология носи със себе си и значителни рискове за здравето, безопасността и основните права на гражданите. За да управлява тези рискове и да осигури еднаква правна рамка, Европейският съюз прие своя Регламент за ИИ (AI Act). Този блог пост ще разгледа основните аспекти на този важен законодателен акт и какво означава той за Вашия бизнес.
–––––––––––––––––––––––––––
Какво представлява Регламентът за ИИ на ЕС?
Основната цел на Регламента за ИИ е да подобри функционирането на вътрешния пазар, като същевременно насърчава ориентиран към човека и надежден изкуствен интелект. Той установява единна правна рамка за разработването, пускането на пазара, въвеждането в експлоатация и използването на ИИ системи в Съюза. С това се цели да се предотврати разпокъсването на вътрешния пазар, причинено от различни национални регулации.
Регламентът за ИИ се прилага за доставчици, които пускат на пазара или въвеждат в експлоатация ИИ системи или модели с общо предназначение в Съюза, независимо дали са установени в ЕС или в трета държава, както и за внедрители на ИИ системи в ЕС. Важно е да се отбележи, че някои дейности са изключени от обхвата му, включително системи и модели, разработени изключително за научноизследователска и развойна дейност, както и тези, предназначени за военни цели, отбрана или национална сигурност.
–––––––––––––––––––––––––––
Риск-базиран подход: Забранени и Високорискови ИИ Системи
Регламентът въвежда риск-базиран подход, който адаптира правилата към интензитета и обхвата на рисковете, които ИИ системите могат да породят. Този подход включва:
• Забрана на неприемливи практики в областта на ИИ.
• Изисквания за високорискови ИИ системи и задължения за съответните оператори.
• Задължения за прозрачност за някои ИИ системи.
Забранени практики в областта на ИИ:
• Използване на подсъзнателни техники или умишлено манипулативни/измамни техники, които съществено променят човешкото поведение и причиняват значителна вреда.
• Експлоатиране на уязвимости, свързани с възраст, увреждане или социално/икономическо положение, за да се промени поведението и да се причини вреда.
• Социално оценяване на физически лица или групи въз основа на социално поведение или лични характеристики, водещо до несправедливо или непропорционално неблагоприятно третиране.
• Прогнозен риск от престъпление въз основа единствено на профилиране или личностни черти.
• Създаване или разширяване на бази данни за лицево разпознаване чрез нецеленасочено извличане на изображения от интернет или видеонаблюдение.
• Определяне или извод за емоции на физически лица на работното място или в образователни институции, освен по медицински или съображения за безопасност.
• Биометрично категоризиране на физически лица въз основа на чувствителни признаци като раса, политически възгледи, сексуална ориентация и др..
• Дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели, с някои строго ограничени изключения.
Високорискови ИИ системи: ИИ системите се класифицират като високорискови, ако имат значително вредно въздействие върху здравето, безопасността и основните права на хората. Те включват:
• Критична инфраструктура (напр. управление на пътен трафик, водоснабдяване, енергетика), когато се използват като защитни компоненти.
• Образование и професионално обучение (напр. определяне на достъп, оценяване на резултати, наблюдение по време на изпити).
• Заетост и управление на работници (напр. подбор, решения за повишение/прекратяване, разпределяне на задачи, наблюдение на поведение).
• Достъп до основни частни и публични услуги (напр. оценка на кредитен рейтинг).
• Правоохранителни дейности (напр. оценка на риск за жертви/извършители на престъпления, оценка на доказателства, профилиране, полиграфи).
• Управление на миграцията, убежището и граничния контрол (напр. оценка на риск от незаконна миграция, полиграфи).
• Правораздаване и демократични процеси (напр. подпомагане на съдебни органи, оказване на влияние върху резултата от избори).
• Биометрични системи за дистанционна идентификация и категоризиране въз основа на чувствителни признаци.
–––––––––––––––––––––––––––
Ключови Изисквания за Високорискови ИИ Системи
Доставчиците на високорискови ИИ системи трябва да спазват редица строги изисквания, които включват:
• Система за управление на риска: Непрекъснат цикличен процес за идентифициране, прогнозиране, оценка и ограничаване на рисковете за здравето, безопасността и основните права през целия жизнен цикъл на системата.
• Данни и администриране на данните: Използване на висококачествени обучителни, валидационни и изпитвателни данни, които са подходящи, представителни, пълни и без грешки. Особено внимание се обръща на намаляване на предубедеността и прозрачност относно произхода на данните. Изключително, може да се обработват специални категории лични данни за откриване и коригиране на предубеденост, при строги гаранции.
• Техническа документация и поддържане на регистри: Изготвяне и поддържане на подробна техническа документация, която демонстрира съответствие с регламента. ИИ системите трябва да позволяват и автоматично записване на събития (логове) за целите на проследимостта.
• Прозрачност и предоставяне на информация на внедрителите: ИИ системите трябва да са достатъчно прозрачни, за да позволяват на внедрителите да тълкуват резултатите. Те трябва да се придружават от ясни инструкции за употреба, съдържащи информация за предназначението, точността, надеждността, киберсигурността, известни рискове, мерки за човешки контрол и изисквания за хардуер.
• Човешки контрол: Системите трябва да са проектирани така, че физически лица да могат да упражняват ефективен контрол, да разбират възможностите и ограниченията им, да разпознават предубедеността и да могат да се намесват или да прекъсват работата им.
• Точност, надеждност и киберсигурност: Системите трябва да постигат подходящи нива на точност, надеждност и киберсигурност през целия си жизнен цикъл. Те трябва да са устойчиви на грешки, недостатъци и външни атаки, като се отчитат специфични уязвимости на ИИ като „отравяне на данни“.
–––––––––––––––––––––––––––
Модели на ИИ с общо предназначение (GPAI) и Системен риск
Моделите на ИИ с общо предназначение са широкообхватни ИИ модели, способни да изпълняват широк набор от задачи и да бъдат интегрирани в различни системи. Тези модели, особено големите генеративни модели на ИИ, носят уникални възможности, но и системни рискове за ЕС, включително големи аварии, смущения в критични сектори, разпространение на незаконно или невярно съдържание и въздействие върху демократичните процеси.
Модел на ИИ с общо предназначение се класифицира като такъв, пораждащ системен риск, ако отговаря на определени условия, като например ако общото количество изчисления, използвани за неговото обучение, надвишава 10^25 операции с плаваща запетая. Доставчиците на такива модели трябва да уведомяват Комисията и да оценяват и ограничават възможните системни рискове. Те също така имат задължения за:
• Изготвяне и актуализиране на техническа документация.
• Предоставяне на информация на доставчици надолу по веригата.
• Въвеждане на политика за спазване на авторското право.
• Публикуване на обобщение на съдържанието, използвано за обучение на модела.
–––––––––––––––––––––––––––
Прозрачност и Отговорност
Регламентът за ИИ въвежда и общи задължения за прозрачност за всички ИИ системи, дори и не-високорисковите. Физическите лица трябва да бъдат информирани, когато взаимодействат с ИИ система, освен ако това не е очевидно. Системите, генериращи синтетично съдържание (като дълбоки фалшификати/deepfakes), трябва да го маркират по машинночетим начин, за да се разпознае като изкуствено генерирано. Внедрителите на системи за разпознаване на емоции или биометрично категоризиране също трябва да информират засегнатите лица.
–––––––––––––––––––––––––––
Иновации и Подкрепа за Бизнеса
За да подкрепи иновациите, Регламентът насърчава създаването на регулаторни лаборатории в областта на ИИ (AI sandboxes) на национално ниво, които позволяват разработването и изпитването на иновативни ИИ системи под регулаторен надзор. Предвидена е и възможност за изпитване в реални условия извън тези лаборатории, при стриктни гаранции. Специално внимание се отделя на подкрепата за МСП и новосъздадени предприятия.
–––––––––––––––––––––––––––
Надзор и Санкции: Какво трябва да знаете
За да осигури спазването на регламента, е създадена цялостна рамка за управление. Тя включва Европейската служба по ИИ (AI Office), Съвет по ИИ (съставен от представители на държавите членки), консултативен форум на заинтересовани страни и експертна група. На национално ниво, държавите членки трябва да определят национални компетентни органи, включително нотифициращи органи и органи за надзор на пазара.
Санкциите за нарушения са значителни. Забранени практики в областта на ИИ могат да доведат до административни глоби до 35 000 000 EUR или до 7% от годишния оборот на предприятието, което е по-голямата сума. Неспазването на други изисквания и задължения може да доведе до глоби до 15 000 000 EUR или 3% от оборота. Предоставянето на неточна информация също се санкционира. За МСП и новосъздадени предприятия са предвидени пропорционално по-ниски глоби.
–––––––––––––––––––––––––––
Заключение
Регламентът за ИИ на ЕС е амбициозен опит за балансиране на иновациите с етичните принципи и защитата на основните права. Той въвежда комплексни изисквания, особено за високорискови ИИ системи и модели с общо предназначение. За всеки бизнес, който разработва, предлага на пазара или използва ИИ в ЕС, е от съществено значение да разбере тези нови правила и да осигури пълно съответствие. Неспазването може да доведе до сериозни правни и финансови последици. За да се ориентирате в тази нова правна рамка и да гарантирате, че вашите ИИ решения са в съответствие, е препоръчително да потърсите специализирана правна консултация относно Регламента за ИИ.
–––––––––––––––––––––––––––
(Моля, имайте предвид, че този блог пост е информативен и не представлява правен съвет. За конкретни казуси, моля, консултирайте се с квалифициран юрист.
За адвокатско дружество „Славчев и Василев“
Адвокатско дружество „Славчев и Василев“ сме специалисти по прилагането на Регламента за ИИ на ЕС. Ние сме консултирали редица стартъп компании, занимаващи се с ИИ, относно сложните изисквания и задължения, произтичащи от този регламент, включително класифицирането на системи с ИИ, управлението на риска, качеството на данните, прозрачността и човешкия контрол. В случай на нужда от консултация и правно обслужване за Вашия ИИ проект, не се колебайте и се свържете с нас за предварителен, неангажиращ разговор.)
