9일 일본 개인정보보호위원회(PIPC)가 인공지능 기업 오픈에이아이(OpenAI)에 대해 데이터 수집 방법을 재검토하라는 경고를 보냈다.
위원회는 오픈에이아이가 민감한 데이터를 기계 학습 목적으로 사용하기 전에 사용자 동의를 받아야 한다는 원칙을 강조했다. 또한, 개인정보 보호 규칙을 계속 위반할 경우 추가 조치를 취할 것이라고 밝혔다.
그러나 동시에 오픈에이아이가 개인정보 보호와 AI의 긍정적인 활용 사이에서 균형을 유지하기를 바란다는 입장도 전했다.
오픈에이아이에 대한 규제 필요성
AI 기술은 보건, 기후 변화 대응, 정부 시스템 개선 등 다양한 분야에서 긍정적인 영향을 미치고 있다.
전문가들은 오픈에이아이가 일본 내에서 많은 사용자를 보유하고 있는 만큼, PIPC의 개인정보 보호 지침을 준수하는 것이 필수적이라고 지적하고 있다.
오픈에이아이의 최고경영자(CEO) 샘 알트만(Sam Altman)은 일본 총리 기시다 후미오와의 회담 후, AI 기술의 단점을 완화하고 안전한 활용을 보장하겠다고 약속했다. 이는 일본 내 오픈에이아이 사무실 개설을 위한 첫걸음으로 해석된다.
알트만은 AI 기술이 역사상 가장 중요한 기술 혁명 중 하나가 될 것이라며, 안전한 AI 사용을 위한 노력을 강조했다.
일본의 새로운 AI 규제 방향
일본 자민당 소속 기이 다카시 의원은 AI 오남용으로부터 저작권자를 보호할 규정이 미비하다고 지적하며, 새로운 AI 규제 도입을 제안했다.
그는 허가받지 않은 AI 플랫폼이 지적 재산권 침해 소송에 직면할 위험이 크다고 경고했다.
한 조사에 따르면, 일본 국민의 약 70%가 AI 개발을 보다 엄격한 규제로 관리해야 한다는 의견을 가지고 있는 것으로 나타났다.
일본의 관방장관 마츠노 히로카즈는 충분한 개인정보 보호 및 보안 대책이 마련된다면, 정부가 AI 기술을 활용해 행정 절차를 간소화하는 것을 적극 수용할 것이라고 밝혔다.
챗지피티와 전 세계 규제 기관의 대응
오픈에이아이의 챗지피티(ChatGPT)는 금융, 교육, 디지털 통화 등 다양한 분야에서 활용되면서 여러 규제 기관과 충돌을 빚고 있다.
이탈리아는 챗지피티가 유럽연합(EU)의 일반 데이터 보호 규정(GDPR)을 위반했다는 이유로 일시적으로 사용을 제한한 바 있다.
중국은 AI 챗봇 사용을 엄격히 금지하며, 가혹한 벌금과 징역형을 포함한 강력한 제재를 도입했다.
영국, 캐나다, 미국 역시 챗지피티와 같은 생성형 AI(Generative AI)의 규제 방안을 논의 중이며, 관련 이해관계자들과 협의를 진행하고 있다.
데이터 유출 문제로 인해 삼성전자는 직원들의 챗지피티 사용을 전면 금지했으며, 아마존, 버라이즌, 액센츄어와 같은 글로벌 기업들도 내부 보안 강화를 위해 유사한 제한을 도입했다.
한편, 오픈에이아이는 최근 사이버 보안 문제 해결을 위해 1만 달러(약 1,450만 원)의 사이버 보안 보조금 프로그램을 시작하며 보안 위협 완화에 나섰다.
AI 기술이 빠르게 발전하면서, 각국 정부와 기업들은 개인정보 보호 및 윤리적 문제를 해결하기 위한 규제 마련에 더욱 속도를 내고 있다.
