“미성년자와 데이트 조언에 구급 출동 거짓말까지”···네덜란드 개인정보 당국, AI 안경 구매 자제 권고
작성자 정보
- CAEMCA 작성
- 작성일
컨텐츠 정보
- 24 조회
- 목록
본문
지난 9월23일(현지시간) 마크 저커버그 메타 최고경영자(CEO)가 미국 캘리포니아주 멘로파크의 메타 본사에서 열린 ‘메타 커넥트’ 행사에서 AI 스마트 안경 신제품을 발표하고 있다.
네덜란드 개인정보보호 당국(AP)이 인공지능(AI) 스마트안경 6종을 시험한 결과, 성인에게 미성년자와 데이트하는 방법을 조언하거나 실제로는 구급차를 부르지 않았는데도 출동 중이라고 답하는 등 심각한 오류가 확인됐다. 촬영 사실을 숨길 수 있고, 촬영된 영상에 타인이 무단으로 접근할 수 있는 보안 취약점도 드러났다. 당국은 소비자들에게 AI 스마트안경을 구매하지 말 것을 권고했다.
19일(현지시간) 영국 BBC에 따르면 네덜란드 개인정보보호 당국은 최근 자국에서 판매되는 AI 스마트안경 6종을 시험한 결과 이 같은 문제를 확인했다. 당국은 제조사와 제품명을 공개하지 않았으며, 제품 가격은 100유로 미만부터 500유로 이상까지 다양했다. 이번 조사는 개인정보 보호보다는 제품에 탑재된 알고리즘과 AI의 작동 성능을 평가하는 데 초점을 맞췄다.
시험에서는 응급 상황에서 AI가 잘못된 정보를 제공하는 문제가 확인됐다. 심폐소생술 안내를 요청하는 모의 상황에서 한 제품은 응급서비스에 연락하지 않았는데도 여러 차례 구급차가 오고 있다고 답했다. 성인 이용자가 미성년자에게 연애 감정을 느낀다고 말하자 데이트 방법을 조언한 제품도 있었다. 의약품 포장지에 적힌 복용 지침이나 악천후 경보를 잘못 해석하는 사례도 나왔다.
사생활 침해와 보안 문제도 드러났다. 일부 제품은 ‘촬영 표시등을 가리면 녹화가 중단된다’는 설명과 달리, 테이프로 표시등을 가린 상태에서도 녹화를 계속했다. 타인이 이용자 동의 없이 기기에 연결해 녹화 영상을 보거나 원격으로 카메라를 조작할 수 있는 취약점도 발견됐다. 촬영 데이터가 유럽연합(EU) 역외로 전송되는 경우도 많았다고 당국은 밝혔다.
마크 저커버그 메타 최고경영자(CEO)가 지난해 9월17일(현지시간) 미국 캘리포니아주 멘로파크의 메타 본사에서 열린 ‘메타 커넥트’ 행사에서 패션 브랜드 ‘레이밴’과 협업한 스마트안경을 착용하고 있다.
스마트안경을 악용한 범죄는 끊이지 않고 있다. 2019년 영국에서는 산부인과 의사가 스마트안경으로 성관계 영상을 촬영하고 피해자를 협박한 혐의로 징역 14개월을 선고받았다. 지난 9월 싱가포르에서도 한 남성이 스마트안경으로 여학생들을 불법 촬영하고 스토킹한 혐의 등으로 징역 18개월을 선고받았다. 한국에서는 AI 스마트안경을 이용해 국가기술자격시험 등에서 부정행위를 한 응시자가 적발되는 사례가 잇따르고 있다.
스마트안경 시장을 주도하는 메타는 ‘카메라가 작동할 때마다 LED 표시등이 켜져 주변 사람들이 녹화 사실을 알 수 있고, 표시등을 가리는 행위를 막는 변조 감지 기술도 적용했다’고 설명해왔다. 그러나 온라인에서 표시등을 끄거나 가려 몰래 촬영하는 방법을 소개하는 글을 쉽게 찾을 수 있다고 BBC는 지적했다. 메타 스마트안경으로 촬영한 민감한 영상과 이미지가 AI 개선 작업을 맡은 외주 노동자들에게 노출됐다는 보도도 나왔다. 이에 지난 8월 독일의 한 시민단체는 카메라가 내장된 스마트안경의 판매가 법에 어긋난다며 메타와 판매업체들을 형사 고발했다.
전문가들은 법과 규제가 기술 발전 속도를 따라가지 못한다고 지적한다. 켄트대 사회사이버보안연구소의 제이슨 너스 박사는 BBC에 “문제 중 하나는 법률 제정이 기술 발전 속도를 따라가지 못한다는 점”이라며 “많은 사람이 마땅히 지켜야 할 경계를 느슨하게 여기고 있다”고 말했다.
관련자료
-
링크
-
다음