"AI 딥페이크가 안면인식기 속일 수도…보안사고 대비해야"

by최연두 기자
2024.09.13 07:51:19

[쿠알라룸푸르=이데일리 최연두 기자] “인공지능(AI) 딥페이크 기술이 정교해지면서 안면인식 기능이나 기기가 이용자를 오인식할 가능성이 커졌습니다. 각 기업·기관이 내부 시설의 보안을 강화하기 위해선 생체인증 방식을 차등 적용해야 합니다. 보안 구역을 등급별로 나눠 서로 다른 브랜드의 생체인증 기기를 도입하는 것이 좋죠.”

김재범 한국정보통신기술협회(TTA) 융합보안기술팀장은 지난 11일(현지시간) 말레이시아 쿠알라룸푸르에서 열린 ‘파이도 아시아태평양 지역(APAC) 서밋 2024’에서 이데일리와 인터뷰를 진행했다.(사진=최연두 기자)

김재범 한국정보통신기술협회(TTA) 융합보안기술팀장은 지난 11일(현지시간) 말레이시아 쿠알라룸푸르에서 열린 ‘파이도 아시아태평양 지역(APAC) 서밋 2024’에서 “생체인증 방식이 안전하긴 하나 보안이 완벽하다고 볼 수는 없다”며 이같이 말했다.

김재범 팀장은 15년간 정보통신기술(ICT) 분야 표준화와 시험, 인증 업무에 종사한 전문가로 꼽힌다. 생체인식 장치의 성능과 보안성을 시험하고 평가할 수 있는 기반 기술을 개발했다. 이를 국내외 다수 기업에 이전한 경험도 있다. 최근 신원 인증의 시장 동향을 분석하고 관련 기술을 고도화하는 데에 집중하고 있다.

이날 김 팀장은 인터뷰에서 AI가 증명 기반 안면인식 기법인 ‘어테스테이션’을 위협하고 있다고 지적했다. 어테스테이션은 이용자의 얼굴을 촬영해 인증을 진행하는 기존 방식에서 인식 정확도를 더 높이기 위한 목표로 개발됐다. 이용자의 눈 깜빡임과 고개 돌리기 등 세부 움직임까지 분석해 오인식이 적다는 것이 장점으로 꼽혀왔다.

김 팀장은 “가상인간이 인간의 눈 깜빡임과 고개 돌리기 등 움직임을 실제처럼 구현, 안면인식기를 속일 수 있다”고 지적했다. 모바일 기기 화면에 띄운 가상인간이 다른 누군가를 사칭할 수 있다는 얘기다. 악의를 품은 누군가가 원하면 특정인만 출입 가능한 곳에 무단 침입 가능해진다.



다만 김 팀장은 “물론 다른 여러 조건을 충족해야 안면인식기를 속일 수 있다”고 했다. 그러면서도 “이는 단건의 사고에서 그치지 않고 연쇄적인 사건으로 사안이 더 커질 수 있다”고 우려하기도 했다.

김재범 한국정보통신기술협회(TTA) 융합보안기술팀장(사진=최연두 기자)

처음부터 완벽한 보안을 구축하려는 노력 보다 단계적으로 개선하면서 보안을 강화하는 방향성이 필요하다는 게 그의 조언이다.

김 팀장은 “국내 기업이나 기관 사례를 보면 모든 위협 가능성을 염두에 두고 시스템을 구축하려는 경향이 많다”고 했다. 또 “시스템 운영자가 실수할 수 있다는 점을 기본적으로 인지해야 한다. 그러한 실수가 발생했을 때 어떻게 대처하고 해결하는지가 안전한 시스템 운영의 핵심”이라고 강조했다.

아울러 TTA나 파이도얼라이언스 등 기술 표준과 평가를 담당하는 기관들에 대해서도 “준비가 필요하다”면서 “다수 이용자의 생체정보가 등록돼 있는 출입 통제기는 단 한번의 오인식으로도 치명적일 수 있다. 이에 초점을 맞춰 기술적 요구사항을 제시하고 평가 항목도 더 난도 높은 수준으로 실시해야 한다”고 강조했다.

한편 TTA는 이번에 파이도얼라이언스와 생체인식 인증서 상호인정을 위한 양해각서(MoU)를 체결했다. 이번 양해각서 체결을 통해 TTA의 생체인식 브랜드 인증 제품은 별도의 추가적인 시험·평가 없이 FIDO 생체인식 인증을 획득할 수 있게 되었으며, FIDO 생체인식 인증 획득 제품은 TTA 생체인식 브랜드 인증을 위한 시험·평가 항목 중 일부를 면제받을 수 있게 된다.