"채용·대출 등 고위험 AI, 확인제도 마련법” 발의

[이데일리 김현아 기자] 범죄 관련 생체 정보, 채용, 대출 같은 중대한 개인 권리와 관련된 사항을 다루는 고위험 인공지능(AI)을 다루는 사업자의 책무를 마련하고, ‘인공지능 영향평가’를 받도록 독려하는 법안이 발의됐다.

이훈기 의원(더불어민주당)이 발의한 ‘인공지능의 발전과 안전성 확보 등에 관한 법률안’은 고위험 인공지능 사업자의 책무를 규정하고 ‘인공지능 영향평가’ 규정을 포함했다.

이훈기 의원(더불어민주당)

고위험AI 공공기관 사용시 영향평가 제품 사용

이 영향평가는 인공지능 서비스가 기본권에 미치는 사회적 파급 효과를 사전에 평가하도록 하며, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때 인공지능 영향평가가 완료된 서비스를 우선 이용하도록 규정하고 있다.

다만, 모든 사업자가 영향 평가를 의무적으로 받아야 하는 것은 아니다. AI를 이용한 제품이나 서비스를 개발하거나 제공하려는 기업은 자신의 서비스가 고위험영역에 해당하는지 검토하고, 필요한 경우 과기정통부 장관에게 고위험AI 여부의 확인을 요청할 수 있다. 단, 공공기관은 AI 영향평가가 완료된 서비스를 우선 이용해야 한다.

인공지능위원회 구성, 생성형 AI 결과물 표시

민간과 공공 부문이 함께 참여하는 대통령 소속으로 민·관 합동 인공지능위원회를 구성하고, 위원회에서 인공지능 기본계획을 심의 및 의결한다.

으로 정한다. 이 때 위원회는 민간 위원 수를 2분의 1이상이 되도록 한다.

과학기술정보통신부장관은 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가경쟁력 강화를 위해 ‘인공지능 기본계획’을 인공지능위원회의 심의ㆍ의결을 거쳐 수립ㆍ시행하게 된다. 아울러 한국지능정보사회진흥원(NIA)에 인공지능정책센터를 둔다.

생성형 AI에 대한 결과물 표시 의무도 포함됐다. 딥페이크를 포함한 생성형 AI가 만들어내는 결과물에 대해 ‘생성형 인공지능 결과물’이라는 표시를 의무화했다.

이훈기 의원은 “고위험 인공지능이 국민의 기본권에 미치는 영향이 크기 때문에, 별도의 ‘인공지능 영향평가’를 통해 인공지능 서비스가 사전에 국민 기본권에 미치는 영향을 평가하도록 했다”며, “제정법안을 통해 인공지능 발전과 규제가 조화를 이루고, 국민 안전을 우선으로 하는 인공지능 기본법 논의가 본격적으로 시작되기를 기대한다”고 강조했다.