유럽연합이 AI Act의 일부 규정에 대한 집행을 시작했다. EU 집행위원회 발표에 따르면 AI Office와 회원국 규제기관은 8월 2일부터 특정 AI 시스템의 투명성 의무를 집행한다.
사용자가 AI와 대화하고 있다는 사실을 알려야 한다
챗봇과 같은 대화형 AI 시스템은 사용자가 사람이 아닌 AI와 상호작용하고 있다는 사실을 알려야 한다. 화면과 서비스의 맥락만으로 AI라는 점이 명확한 경우를 제외하면, 이용자가 대화 상대의 성격을 혼동하지 않도록 고지가 필요하다.
AI가 생성하거나 조작한 콘텐츠에는 기계가 읽을 수 있는 표시를 넣어 탐지하기 쉽게 해야 한다. 이미지와 영상, 음성을 AI로 만들거나 변경한 딥페이크도 AI 생성 또는 조작 사실을 표시해야 한다.
이 규정은 AI 생성물 자체를 금지하는 내용이 아니다. 이용자가 사람과 AI, 원본과 조작된 콘텐츠를 구분할 수 있도록 출처와 생성 방식을 알리는 투명성 의무다.
AI Act 전체가 같은 날 적용된 것은 아니다
8월 2일부터 AI Act의 모든 조항이 한꺼번에 적용된 것은 아니다. EU AI Act Service Desk에 따르면 금지된 AI 관행과 특정 투명성 의무, 범용 AI 모델 관련 규칙 등이 집행 대상에 포함됐다.
반면 고위험 AI 시스템에 관한 일부 규정은 2027년과 2028년에 단계적으로 적용된다. 8월 2일 이전에 출시된 AI 시스템도 Article 50(2)의 표시와 탐지 의무에 대해서는 12월 2일까지 준비 기간을 받는다.
따라서 이번 소식을 ‘EU AI Act 전면 시행’이라고 표현하면 실제 적용 범위를 지나치게 넓힐 수 있다.
서비스 운영자가 확인할 범위
EU 시장에서 챗봇이나 생성형 AI 기능을 제공하는 사업자는 사용자가 AI와 상호작용한다는 사실을 어디에서 알릴지, 생성된 이미지와 영상에 어떤 표시를 넣을지 확인해야 한다.
또한 사람이 직접 편집한 콘텐츠와 AI가 생성하거나 변경한 콘텐츠를 시스템에서 구분하고, 표시 정보를 제거하지 않은 채 전달할 수 있는 처리 방식도 필요하다. 구체적인 의무와 예외는 서비스의 역할과 출시 시점, 콘텐츠 유형에 따라 달라지므로 Article 50과 집행 지침을 함께 확인해야 한다.