거의 3년의 기다림 끝에 2024년 5월 21일, 유럽 이사회는 인공지능과 관련된 문제를 다루는 규정인 AI법을 승인했습니다. EU 관보에 게재된 지 20일 후인 2024년 8월 1일, AI법이 발효되어 유럽 연합에서 AI에 대한 규제가 (오랫동안 기다려온) 현실이 되었습니다.
EU의 인공지능 규정(AI법)은 인공지능의 사용 및 시장 출시와 관련된 문제를 포괄적이고 선진적으로 규제하는 세계 최초의 규정 중 하나입니다. 새로운 규정은 AI를 매일 배포하고 사용하는 기술 회사와 기관 모두에게 관심을 가져야 합니다. 이 법은 안전한 인공지능의 개발과 홍보를 보장하고 이 기술의 사용 및 개발에서 남용 위험을 최소화하는 것을 목표로 합니다.
AI법은 누구와 관련이 있습니까?
간단히 말해서, AI법은 주로 인공지능의 공급자, 수입자, 유통업체 및 사용자와 관련이 있습니다. 또한 AI 운영의 결과가 연합 내에서 활용되는 경우 EU 외부의 AI 공급자와 사용자에게도 적용됩니다.
AI법상 인공 지능이란 무엇입니까?
AI 시스템은 "다양한 수준의 자율성으로 작동하도록 설계되고 배포 후 적응성을 보일 수 있으며, 명시적 또는 암묵적 목적에 따라 수신한 입력에서 예측, 콘텐츠, 권장 사항 또는 물리적 또는 가상 환경에 영향을 줄 수 있는 결정과 같은 출력을 생성하는 방법을 추론하는 기계 기반 시스템"으로 정의되었습니다. 이 정의에는 모호한 용어가 많이 포함되어 있어 특정 시스템이 인공 지능에 해당하는지 여부를 결정하는 데 실질적인 어려움이 있을 수 있습니다. 결과적으로 규정의 범위는 처음에 보이는 것보다 훨씬 더 광범위할 수 있습니다. 정의를 더 명확하게 이해하려면 진행 중인 절차의 맥락에서 해석할 국가 및 EU 당국의 결정에서 지침을 구해야 할 가능성이 높습니다.
위험 분석 - 규정을 이해하는 열쇠
AI법은 사용과 관련된 위험 수준에 따라 인공 지능에 대한 분류 시스템을 수립합니다. AI 시스템을 올바른 범주에 적절히 할당하는 것이 필수적입니다. 분류에 따라 기업은 시스템을 도입, 배포 또는 활용하기 위한 특정 의무를 충족해야 합니다. 위험 수준이 높을수록 AI의 배포 및 사용과 관련된 의무가 더욱 엄격해집니다.
가장 위험한 시스템의 경우 사용 금지가 있을 수도 있습니다.
아래는 인공지능 시스템의 예와 함께 범주입니다.
- 낮음(제한됨) 위험 범주:
챗봇;
오디오/비디오 콘텐츠를 조작하는 시스템(""딥페이크"" 시스템);
- 높음 위험 범주:
채용에 사용되는 일부 시스템;
직원 감시 시스템;
신용 평가에 사용되는 시스템;
- 허용할 수 없는 위험 범주(금지된 AI 관행):
광고나 판매와 같이 인간의 행동을 수정하거나 왜곡하기 위해 잠재의식적 기술(조작)을 사용하는 시스템;
인간의 취약성을 악용하여 행동을 왜곡하는 시스템(예: 나이);
인간의 행동을 평가하는 시스템(소위 스코어링)
위 목록은 AI 시스템 분류에 대한 설명적 개요일 뿐입니다. 인공지능에 대한 광범위한 정의를 감안할 때, 기업은 알고리즘이 규정에 해당하는지 여부와 해당하는 경우 어떤 범주에 속하는지 매번 판단해야 합니다.
낮은(제한된) 위험의 경우, 제공자는 무엇보다도 적절한 수준의 투명성을 보장해야 합니다. 이러한 AI 시스템을 사용하는 개인은 인공지능과 상호 작용하고 있다는 사실을 알아야 합니다.
고위험 범주 내에서 AI를 사용하려면 수많은 요구 사항을 충족해야 합니다. 여기에는 예상되는 위험에 대한 철저한 분석 및 평가 수행과 AI와 관련된 포괄적인 위험 관리 시스템 구현이 포함됩니다.
* 허용할 수 없는 위험 범주의 경우, 주로 국가 당국의 법 집행과 관련하여 인공지능 사용을 허용하는 예외가 있습니다.
처벌
AI법은 규정 위반에 대한 다양한 처벌을 규정합니다.
금지된 관행에 관여하는 경우 처벌은 다음과 같습니다.
최대 35,000,000유로 또는
위반자가 기업인 경우 전 세계 연간 총 매출의 최대 7%
다른 조항을 위반한 경우, 처벌은 다음과 같습니다.
최대 15,000,000유로 또는
위반자가 사업체인 경우 전 세계 연간 총 매출의 최대 3%.
또한, 당국의 요청에 따라 허위 또는 오해의 소지가 있는 정보를 제공한 경우 다음과 같은 처벌이 적용됩니다.
최대 7,500,000유로 또는
위반자가 사업체인 경우 전 세계 연간 총 매출의 최대 1%.
매번, 제재의 상한은 언급된 금액(숫자 또는 백분율 기준) 중 더 높은 금액에 따라 결정됩니다.
AI법은 언제 시행되어 적용됩니까?
새로운 규정의 범위와 관련 의무를 감안할 때 AI법은 점진적으로 도입될 것입니다. 이 규정은 EU 관보에 게재된 후 20일 후인 2024년 8월 1일에 발효됩니다. 중요한 점은 모든 조항이 즉시 발효되는 것은 아니라는 것입니다. 기업과 EU 회원국은 과도기 동안 새로운 규정에 적응해야 합니다.
AI법은 발효 후 24개월 후에 완전히 적용될 예정입니다. 그러나 이 일반 규칙에는 예외가 있습니다. 규정이 발효된 후 6개월 후에 일반 조항과 금지된 관행에 관한 조항이 발효됩니다. 12개월 후에는 처벌에 관한 조항을 포함한 또 다른 광범위한 조항이 발효됩니다. 제6조(1)에 나열된 고위험 AI 시스템과 관련 의무와 관련된 마지막 조항 그룹은 36개월 후에 발효됩니다.
규정으로서 AI법은 모든 EU 회원국에서 전체적으로 구속력이 있고 직접 적용되므로 국가 법률 시스템에 대한 추가 구현이 필요 없습니다. 국가 당국, 기업 및 개인은 발효되는 순간부터 해당 조항을 준수해야 합니다.
이는 기업에 어떤 의미가 있습니까?
초기 의무에 적응하는 데 걸리는 기간은 6개월로 짧습니다. 이 규정은 포괄적이며 조직 내에서 구현하기 전에 철저한 분석이 필요합니다. 따라서 조직에서 AI 법을 준수해야 하는지 여부와 어느 정도 준수해야 하는지 지금 평가하는 것이 좋습니다.