[메가경제=이상원 기자] 인공지능(AI)과 디지털 기술이 일상을 빠르게 바꾸고 있다. 편리함과 새로운 기회를 제공하지만 ‘딥페이크’·‘AI 보이스피싱’ 같은 신종 범죄와 사이버 폭력, 허위정보 확산 등 새로운 사회문제도 낳고 있다.

디지털 전환 과정에서의 소외현상도 문제로 지적된다. 어린이와 청소년의 올바른 AI 활용부터 고령층의 키오스크 이용, 장애인의 디지털 접근성 등 기술 발전의 혜택이 모두에게 고르게 돌아가는지 살펴볼 필요가 있다. ‘모·디·세(모두를 잇는 신뢰의 디지털 세상)’를 통해 AI와 디지털 기술이 만든 변화와 그 이면을 짚어본다. - 편집자 주

“AI가 그렇게 판단했습니다.”

대출 심사에서 탈락하거나 채용 과정에서 불이익을 받은 사람이 이런 답변만 듣는다면 결과를 납득할 수 있을까. AI가 글을 쓰고 이미지를 만들며 기업의 의사결정을 지원하는 시대다. 그러나 판단의 근거와 오류에 대한 설명까지 기계에 맡길 수는 없다. AI 활용 범위가 넓어질수록 누가 결과를 검증하고 잘못을 바로잡을지 정하는 일이 중요해지고 있다.

15일 업계 관계자에 따르면 AI의 콘텐츠 제작과 의사결정 참여가 확대될수록 결과를 검증하고 오류를 바로잡는 인간의 책임이 중요해지고 있다. AI 활용의 신뢰성을 높이려면 데이터 관리부터 최종 승인, 피해 대응까지 책임 주체와 통제 절차를 명확히 해야 한다는 것이다.
 

▲ AI 검증 이미지. [사진=챗GPT]

실제 기업의 AI 도입은 빠르게 늘고 있다. 유럽연합 통계기구 유로스타트에 따르면 2025년 EU 내 종사자 10명 이상 기업의 AI 활용률은 20.0%로, 2024년 13.5%보다 6.5%p 상승했다. 기업 5곳 중 1곳이 업무에 AI를 활용하는 셈이다. 이는 생성형 AI만이 아니라 문서 분석과 음성 인식 등 다양한 AI 기술을 포함한 수치다.

활용 확대와 함께 위험을 관리할 필요성도 커지고 있다. 경제협력개발기구(OECD)가 올해 2월 발간한 보고서에 따르면 언론에 보도된 AI 관련 사고·위험 사례는 2022년 월평균 92건에서 2025년 분석 기간 월평균 324건으로 늘었다. 다만 이는 언론 보도를 수집한 결과로 실제 사고 전체를 집계한 통계는 아니다.

다만 이런 통계의 해석에도 인간의 검증이 필요하다. AI가 숫자를 정확하게 옮겼더라도 조사 대상과 기간, 집계 방식이 빠지면 독자는 다른 결론에 도달할 수 있다. 기사와 보고서에 그럴듯한 문장이 담겼다는 이유만으로 사실 확인이 끝나는 것은 아니라는 지적이다.

특히 금융·채용·교육·복지처럼 개인의 권리와 기회에 영향을 주는 영역에서는 정확도만으로 충분하지 않다. 평균적인 성능이 높더라도 특정 집단에 불리한 결과가 반복되거나, 당사자가 판단 근거를 확인할 수 없다면 문제가 남는다. 결과를 설명하고 이의를 제기할 통로가 있어야 AI 활용의 신뢰도 확보할 수 있다.

국제사회가 제시하는 원칙도 책임의 주체를 분명히 하는 데 맞춰져 있다. 유네스코는 2021년 193개 회원국이 채택한 AI 윤리 권고에서 최종적인 책임과 책무는 자연인이나 법인에 있어야 하며 AI 자체에 법인격을 부여해서는 안 된다고 제시했다.

이를 기업과 기관의 업무에 적용하려면 데이터 관리, 결과 검증, 최종 승인, 오류 대응을 맡는 주체를 구체적으로 정해야 한다. 개발사는 기술의 한계와 사용 조건을 설명하고, 도입 기관은 해당 업무에 적합한지 평가하며, 사용자는 결과를 목적에 맞게 확인하는 구조가 필요하다. 마지막 승인자 한 사람에게 모든 부담을 넘기는 방식으로는 책임 체계가 작동하기 어렵다.

▲ AI 결정을 인간이 정확히 판단해야 한다. [사진=챗GPT]
사람이 승인 버튼을 누른다는 사실만으로 통제가 완성되는 것도 아니다. 담당자에게 판단 근거를 검토할 정보와 시간, 잘못된 결과를 수정하거나 사용을 중단할 권한이 주어져야 한다. 검토 과정과 변경 내용을 기록하고, 피해를 호소하는 이용자가 사람에게 재검토를 요청할 수 있도록 절차도 마련해야 한다.

업계 관계자는 “기업의 AI 경쟁력 역시 도입 속도와 비용 절감만으로 평가하기 어렵다”며 “검증을 생략해 얻은 효율은 오류 정정 비용과 고객 신뢰 훼손으로 되돌아올 수 있다”고 설명했다.

이어 “AI가 만든 콘텐츠임을 표시하는 것에 더해, 내용의 사실성과 활용의 적절성을 확인하는 운영 체계가 필요하다”고 덧붙였다.

[제작지원 : 한국언론진흥재단]

[ⓒ 메가경제. 무단전재-재배포 금지]