손승우 법무법인 율촌 고문

AI 안전은 규제가 아닌 신뢰 인프라

민간 중심 안전 생태계 구축이 필요

인공지능(AI)은 더 이상 화면 속 알고리즘에 머물지 않는다. 휴머노이드 로봇, 자율주행차, 지능형 설비로 확장된 피지컬 AI는 이제 현실 세계를 움직인다. 문제는 위험도 물리적 현실로 전환되고 있다는 점이다. 미국 샌프란시스코의 대규모 정전 당시 무인 자율주행 택시가 도로에서 멈춰 서며 교통 혼란을 초래한 적이 있다. 이는 단순한 기술 오류가 아닌 공공 안전과 직결된 문제다. 위험은 단일 기술을 넘어 시스템 전체의 문제로 확장한다.

로봇 분야에서도 경고음이 이어진다. 산업 현장에서 로봇 팔 오작동으로 작업자가 사망하거나 중상을 입는 사고가 발생했고, 물리적 위험성을 내부에서 제기한 직원이 해고돼 소송으로 이어진 사례도 있다. AI 위험은 알고리즘 편향이나 정보 왜곡의 차원을 넘어 인명과 재산 피해의 문제로 현실화하고 있다.

물론 안전기준이 없지는 않다. 자율주행차에는 국제 기준에 따른 형식승인 체계가, 산업용 로봇에는 국제 안전 표준이 적용된다. 그러나 이 기준들은 주로 기계적 고장과 예측 가능한 위험을 전제로 설계됐다. 피지컬 AI는 학습 데이터, 소프트웨어(SW) 업데이트, 통신 환경에 따라 행위와 위험이 달라지는 동적 시스템이다. 전력·통신 장애와 결합하면 사회 인프라 차원의 위험으로 확대된다. 기존 기준은 중요한 출발점이지만, 피지컬 AI는 이를 넘어서는 복합적 위험 구조를 띤다.

제도는 분야별로 분산돼 있다. 자율주행은 교통안전, 산업로봇은 산업안전, AI 소프트웨어는 정보보호 영역에서 각각 규율한다. 그러나 피지컬 AI는 이 경계를 넘나든다. 기술 발전 속도와 법제 정비 사이의 시차 역시 존재한다. 정부는 ‘안전한 AI 기본사회’를 국정 방향으로 제시하고, 인공지능안전연구소를 출범시켜 AI 위험평가와 안전기준 연구 체계를 구축하고 있다. 이는 국가 차원의 과학적 위험 분석과 정책 기반 마련이라는 점에서 중요하다. 그러나 중앙집중적·사후 규제와 연구 기능만으로는 빠르게 진화하는 현장 위험을 포착하는 데 한계가 있다.

따라서 정부의 연구·감독 체계를 보완할 민간 주도 거버넌스가 필요하다. 기술 현장을 가장 잘 아는 기업과 연구자가 위험 데이터를 공유하고 사고 사례를 축적하며 자율적 안전 벤치마크를 마련해야 한다. 규제를 회피하자는 것이 아니라, 시장 내부에서 신뢰 기준을 선제적으로 구축하자는 말이다. 산업계가 데이터와 실행력을 바탕으로 자율적 기준을 형성하고, 정부가 이를 공적 신뢰로 제도화할 때 지속 가능한 안전 생태계가 구축될 수 있다.

다(多) 영역이 교차하는 복합기술인 피지컬 AI의 안전 문제는 개별 기업의 대응만으로는 한계가 있다. 정부가 공적 신뢰를 부여하는 조정자가 되고, 산업계가 실행력을 갖춘 민간 전문 단체를 통해 현장 중심 기준을 축적하는 이중 구조를 생각해 보자. 양자는 경쟁이 아닌 상호 보완적 축인 셈이다.

안전은 혁신의 제약이 아니라 성장의 조건이다. 초기에 정부의 안전 연구 체계와 민간의 실행 중심 거버넌스를 함께 설계하는 일, 그것이 대한민국이 기술과 표준을 동시에 주도하는 전략적 선택이 될 것이다.

출처: 한국경제(2026.02.20)