인공지능, 어떻게 바라볼 것인가?

인공지능 관련법의 진행 상황

 

이 글에서는 인공지능 관련 법이 어떻게 진행되고 있으며 무슨 영향을 끼칠지 알아보도록 하겠습니다..

본론에 앞서, 이론적으로 법은 AI가 사용되는 곳에서 일정 수준의 모니터링과 규제를 요구합니다.

이 법의 목표는 인권을 보호하고 인공 지능의 부작용을 방지하는 것입니다.

 

유럽 ​​의회의 이탈리아 의원이자 법안 수정 그룹의 주요 구성원인 Brando Benifey는 다음과 같이 말했습니다.

”법이 제정되면 인공 지능의 부정적인 영향으로부터 사람들을 보호할 수 있을 것입니다.”

 

이 법안은 일상생활에서 사람들의 감정을 측정하는 딥 페이크,, 생체 인식 시스템 및 인공 지능으로부터 사람들을 보호하는 것을 목표로 합니다.

또한 사람들이 인공 지능 시스템의 영향을 받고 손해배상을 청구할 수 있는 제도를 마련할지 논의 중입니다.

 

 

인공지능, 어떻게 바라볼 것인가?

 

1. EU의 인공지능 규제

 

법안을 수정하고 있는 유럽연합(EU) 기구 중 하나인 유럽의회(European Parliament)도 범죄 예측시스템 금지를 추진하고 있습니다.

시스템은 선제적으로 경찰을 배치하거나 우리는 인공 지능을 사용하여 빅 데이터를 분석하여 특정 개인이 범죄를 저지를 가능성을 예측합니다.

이 시스템의 반대자들은 이 것이 인종차별적이며 투명성이 부족하다고 비판하는 등 현재 극도로 논란의 여지가 있습니다.​​​​​​

 

 

2. EU 외 국가의 인공지능 규제

 

​​​EU의 개인정보 보호법인 GDPR, 이것은 EU 기관의 결과물에 대한 가장 잘 알려진 예이며 전 세계 거의 모든 곳에서 인용됩니다.

​​​대부분의 선진국들은 인권을 침해할 수 있는 인공지능 기술에 대한 규제가 필요하다는 EU의 입장에 동의합니다.

유럽이 이 기술을 규제하기 위한 일관된 프레임 워크를 만들 수 있다면 다른 국가의 모델 역할도 할 것입니다.

​​​AI 정책을 다루는 비영리 단체인 Center for AI and Digital Policy의 Mark Rottenberg 소장은 다음과 같이 말했습니다.

“미국 기업이 EU AI 법률을 준수하면 투명성과 책임 수준도 높아집니다. "

 

이 법안은 바이든 행정부가 면밀히 주시하고 있습니다.

미국에는 구글 AI, 메타, 오픈 AI 등 세계 최대 AI 연구소가 있습니다.

여러 AI 연구 지표에서 세계를 선도하고 있습니다.​​​

따라서 백악관은 이러한 회사에 어떤 제한 사항이 적용되는지에 관심이 있습니다.

지금까지 AI 관련 활동을 주도한 잭 설리번 백악관 국가안보보좌관, 지나 레이몬도 상무장관, 린 파커 등의 미국 정부 관리들은 유럽의 AI 규제 활동에 동의할 수 있었습니다.​​​

로텐버그는 "이는 미국이 과거에 GDPR 개발을 어떻게 보았는지와 극명한 대조를 이룬다"라고" 말했습니다.

과거 미국인들은 GDPR이 인터넷을 차단하고 세계를 파괴하는 것에 대해 관심을 쏟았기 때문입니다.

 

조심스러운 분위기에도 불구하고 미국은 합당한 이유에서 이 법안을 환영하고 있습니다..

기술 부문에서 중국의 영향력 확대에 대해 극도로 우려하는 견해가 있기 때문입니다.

공식적으로 미국은 서방의 기술 패권을 유지하는 것이 "민주적 가치"의 확산을 위한 필수 조건이라고 믿고 있습니다.

 

 

​​​​​​3. 인공지능 법의 가장 큰 도전​

이 법안의 일부 요구 사항은 현재 기술 수준에서 충족하기 어렵습니다.

법안 초안에서 데이터 세트에는 오류가 없어야 합니다. 또한 사람들이 인공 지능 시스템이 어떻게 작동하는지 완전히 이해해야 한다고 규정합니다.

 

그러나 AI 시스템을 훈련하는 데 사용되는 데이터 세트는 검증이 가능하더라도 매우 큽니다.

데이터 세트에 오류가 없도록 하려면 수천 시간의 인력이 필요합니다.

​​​또한 오늘날의 신경망은 너무 복잡해서 이를 개발한 사람들조차 신경망이 어떻게 결론에 도달하는지 완전히 이해하지는 못합니다.

 

AI 시스템에서 의도하지 않은 차별을 줄이기 위해 노력하는 비영리 단체인 Equal AI의 사장이자 CEO인 Miriam Vogel은 다음과 같이 말했습니다.

​​​"많은 사람들이 현재 법안 초안에 대해 불편해하고, 그것은 비현실적입니다.

이 조항은 실제로 구현이 불가능합니다."

그녀는 최근에 구성된 미국 AI 자문 위원회 의장으로서 AI 정책에 관해 백악관에 조언합니다.

 

동시에 AI 법이 안면 인식 기술을 전면 금지해야 하는지에 대한 논쟁이 뜨겁습니다.

이는 부분적으로 EU 회원국들이 브뤼셀에 있는 EU 본부가 국가 안보 또는 법 집행 문제에 간섭하는 것을 원하지 않기 때문입니다.

프랑스와 같은 일부 국가에서는 국가 안보를 보호하기 위해 안면 인식 기술 규제 예외를 원합니다.

한편 또 다른 유럽 강대국 및 EU 의사 결정에 영향력 있는 대변인인 새로운 독일 정부는

공공장소에서 안면 인식 기술의 사용을 전면 금지하는 것을 지지한다고 말했습니다.​​​

 

또 다른 논란이 되는 문제는 어떤 유형의 AI를 "고위험" 문제로 분류해야 하는지입니다.

AI 법률은 거짓말 탐지기 테스트에서 우리가 사용하는 시스템에 이르기까지 광범위한 영역을 다룹니다.

여기에는 두 개의 반대되는 정치적 진영이 있습니다.

한편에서는 인공지능 규제의 범위가 너무 넓어 혁신이 지연될 것이라고 우려합니다.

다른 쪽에서는 법안 초안이 심각한 피해로부터 사람들을 보호하기에 불충분하다고 주장합니다.

 

 

글을 마치며

 

지금까지 EU의 AI 규제법에 대해 알아보았습니다.

요컨대 법안의 핵심은 "AI가 고위험 애플리케이션에 활용된다면 AI를 다시 검토하자"는 것입니다.

AI의 부작용을 최소화하고 그 과정에서 AI에 대한 사회의 신뢰와 신뢰를 높이려는 정책입니다.

이는 AI로 인해 피해를 입은 사람들에게 법적 안정을 제공하기 위한 법안으로 보입니다.​​​

이 법안을 제안하면서 한국 법조계와 재계는 법안 통과에 대해 "AI 업계를 울게 만들 수 있다"라고" 우려했습니다.​​​

법안이 EU 내에서도 분할돼 있어 어떤 형태로 법안이 완성될지는 미지수입니다.

 

이만 이 글은 여기서 마치고, 다음 글에서도 좋은 정보로 찾아뵙겠습니다.

긴 글 읽어주셔서 감사합니다.