“비밀번호가 뭐였더라” 기억 찾아주는 윈도11 ‘리콜 기능’의 함정

by최연두 기자
2024.06.26 17:02:34

[이데일리 최연두 기자] 마이크로소프트(MS)가 지난달 야심차게 선보인 윈도11의 인공지능(AI) 신규 기능 ‘리콜(Recall·기억)’에 대한 보안 우려가 커지고 있다. PC 이용자의 과거 기억을 빠르게 찾아준다는 모토로 개발된 이 기능이 자칫 민감 정보 유출의 경로로 악용될 소지가 있다는 지적이 나오면서다.

MS가 공개한 윈도11 ‘리콜’ 기능 홍보 영상 캡처

25일(현지시간) 보안업체 카스퍼스키는 자체 온라인 블로그를 통해 윈도11 리콜 기능을 활성화하면 PC를 거쳐간 의료진단 기록과 은행 명세서, 암호화폐 거래 등 민감한 정보가 한꺼번에 유출될 수 있다고 우려했다.

리콜 기능은 PC 이용자의 모든 활동을 5초 단위로 스크린샷으로 촬영, 로컬 PC에 보관하고 있다가 이용자가 원할 때 이를 다시 불러오는 것이 핵심이다. AI는 해당 스크린샷 이미지를 분석해 텍스트를 추출하고 이를 토대로 검색 데이터베이스(DB)를 만든다. 리콜 이용자가 ‘며칠전 OO이 추천해준 식당이 어디였지’ ‘엑셀 작업 어떻게 했었지’ 등의 질문을 하면 당시 PC 이용 화면을 불러오는 식이다. 이때 스크린샷과 텍스트 DB는 모두 PC 특정 폴더에 저장된다.

그런데 보안업계 전문가들은 시범 테스트를 통해 원격에서도 해당 폴더에 쉽게 접근했다고 주장하고 있다. PC가 악성코드에 감염됐다면 이러한 폴더가 유출되는 것은 시간 문제라는 설명이다. 특히 시범 테스트에서는 초기 리콜 기능에서 윈도 OS를 우회해 이미지와 검색어 DB 파일에 접근 가능한 구멍이 존재한다는 사실이 확인됐다. 이들 파일은 공개 방식으로 저장돼 누구나 파일을 열어볼 수 있었다.



MS는 이와 관련해 암호화 기술로 해당 폴더를 보호하겠다고 했지만, 카스퍼스키는 실제로 이 기능이 구현되는지 확인하기 어렵다고 지적했다.

사생활 침해에 대한 우려도 제기됐다. 스탠 카민스키 카스퍼스키 연구원은 이번 블로그 글에서 회사 상사가 업무 성과를 확인하기 위해 또는 상대 배우자의 외도를 의심해 개인 이용자의 해당 DB에 접근할 수 있다고 언급했다.

카민스키 연구원은 “가능하면 리콜 기능을 비활성화한 후 PC를 사용해라”라고 조언했다. 특히 민감한 정보를 PC에 저장하는 사례가 많거나 업무 데이터가 법적으로 보호될 의무가 있는 경우, 다른 사람과 PC를 함께 쓰는 경우 보안에 취약하다고 경고했다.

한편 윈도11 리콜 기능은 아직 국내에 도입되지 않았다. MS는 이르면 올 하반기 리콜 기능 출시에 대한 국내 기자 간담회를 열 예정이다. 보안업계 관계자는 “아직은 리콜 기능이 출시 초기라 보안 문제가 있을 수 있으나 MS가 업데이트를 통해 보안 이슈를 해결하지 않으면 향후 이용자들의 피해가 생길 수 있다”고 말했다.