인공지능 앨리스
얼굴 프라이버시 보호 플랫폼
6
0 팔로워
소개
인공지능 앨리스는 내 얼굴이 포함된 영상을 찾아주는 모바일 앱입니다.
현재 iOS 버전만 출시되어 있으며, 한국을 주 타겟으로 하고 있습니다.
기술의 발달로 내 얼굴이 합성되거나(딥페이크) 실제 영상이 유출되어 일반인들도 큰 피해를 받고 있습니다. 하지만 대응할 수 있는 도구가 없는 현실에서 인공지능을 통해서 빠르게 피해를 확인하고 삭제하는 앱을 만들었습니다.
많은 전문가 분들의견을 듣고 싶습니다.
포스트
아직 포스트가 없습니다.
댓글
로그인 후 댓글을 남길 수 있습니다.
안녕하세요, 좋은 취지를 가지고 만들어진 멋있는 프로덕트인 것 같습니다! 하나 질문이 있는데요.. 본인의 얼굴을 검색하는 것이 아닌 타인의 얼굴을 검색할 수 있다면 또 다른 피해가 생길 수도 있을 것 같은데 본인 확인 절차 같은 것도 존재하나요?
안녕하세요. 관심 가져주셔서 감사합니다. ^^ 일반적으로 웹 기반의 얼굴 검색 서비스는 사진같은 이미지를 업로드 하기 때문에 말씀주신 것처럼 타인의 사진을 사용하거나 검색하는 것과 같은 문제가 있습니다. 하지만 앨리스 서비스는 사진or이미지 검색을 하지 않고 스마트폰의 전면 카메라로 얼굴을 직접 인식하며 이때 전면만 사용하는 것이 아니라 얼굴을 돌리며 사용자의 얼굴 전체를 인식하게합니다. 예를들면 아이폰 페이스 아이디와 비슷하다고 생각하시면 편합니다. 정면만 쓰는게 아니고 좌우 위아래 고개를 돌린 얼굴 전체의 패턴 분석을 사용하므로 타인이 인화된 사진을 가지고 악용하려해도 우선 고개를 돌리는 여러 사진을 보유하여야 하고 결과적으로 얼굴에서 인식되는 부분이 자연스럽지 못해서 원하는 결과를 얻지 못하게 됩니다. 혹시 질문이 더 있으시면 남겨주세요. 감사합니다. ^^
그리고 본인 확인 절차나 여러가지 개인 인증은 하지 않고 있습니다. 피해를 보시는 대부분의 사용자 분들은 본인이 노출되기 원하시지 않거든요. 저희도 에러 발생이나 고객 지원을 위한 최소한의 정보를 제외하고는 사용자를 특정할 수 있는 정보는 수집하지 않으려고 합니다. 문제를 해결하기 위한 도구가 또다른 문제가 되어선 안되기 때문이죠.
아 홈페이지 메인에 `얼굴을 분석한 결과 데이터`가 말씀해주신 것처럼 사진을 이용하는 것이 아닌 '카메라로 직접 인식한 데이터'를 의미하는것이었군요... 이 부분이 좀 더 명확하게 강조된다면 진짜 이 서비스가 필요한 유저들이 좀 더 안심하고 앱을 다운받아서 사용해 볼 수 있을 것 같다는 생각이 들었습니다. 본인인증을 하지 않는 이유에 대해서는 개인적으로 매우 동의합니다. 응원하겠습니다 :)
정말 감사합니다. 사진이나 이미지 전송을 직접하지 않는 것으로 사용자의 프라이버시를 보호하려고 노력하였습니다. 마케팅과 홍보에 해당 메시지 강조하겠습니다. 현재 팀원들과 열심히 검색사이트를 늘리고 있습니다. 언제든지 가감없는 의견 언제든지 주시면 반영하겠습니다. YouTube PR 영상 첨부하였습니다. https://www.youtube.com/watch?v=UDyoKdYp-Bw
기술 자체는 좋은 취지를 갖고 만들어진 것 같은데 BM이 부적절하다고 생각합니다. 피해자의 얼굴로 불법 영상을 탐지하는 AI, 까지는 괜찮은데 그걸로 피해자에게 돈을 받아 대리로 지워준다고 하는게 이상한 것 같아요. 피해자는 영상이 완전히 삭제될 때까지 돈을 내야 하는 거잖아요? 오히려 불법 영상을 매개로 계속해서 돈을 벌어들이는 BM으로 보여서, 피해를 지원하는 좋은 의미보다는 불법영상에 기생하는 사업으로 보이는 점이 있습니다.
서비스에 대해서 안 좋은 인상을 받으셨다니 안타깝습니다. 몇 가지 설명을 드리고자 합니다. 디지털 성범죄 피해자들은 현재 3가지 방법으로 대응하고 있습니다. 1. 정부 디지털성범죄피해지원센터 2. 디지털 장의사 서비스 3. 직접 해결. 정부의 디지털 성범죄피해 지원센터를 거치더라도 영상 피해에 대해서 피해자들이 직접 URL을 수집해야 합니다. 물론 그 과정이 고통스러운 것은 말로 표현 할 수 없겠죠. 그리고 영상 삭제를 위해서 본인의 신분이 타인에게 노출 되어야 하는 문제도 있습니다. 또한 현재의 BM은 저희가 없던 BM을 만들어서 하는 것이 아니라 이미 존재하는 BM입니다. 지금도 피해자들은 디지털장의사 서비스를 통해서 몇 백만원씩 지출하고 있는 상황입니다. (사이버 장의사 URL 건당 삭제 비용 평균 5만원 이상) 오히려 인공지능 앨리스는 피해자들이 소요해야하는 비용과 시간을 절대적으로 줄여주고 있습니다. 피해자들이 직접 수집해야 하는 피해내용을 빠르게 찾아서 확산을 막아주며, 자신의 사진이나 영상 신분 노출없이 직접 해결할 수 있게 도와주는 기능을 하기 때문에 피해자들의 고통을 현저하게 줄여주는 역할을 합니다. 디지털 성범죄로 인한 피해 자체를 없애주는 것은 인터넷이 존재하는 한 신의 영역일 것입니다. 그걸 할 수 있는 회사가 과연 존재할까요? 정부도 못해주는 일을요. 인공지능 앨리스는 여성들의 고통에 기생하는 것이 아니라 현재도 이미 발생하는 고통을 줄여주기 위한 노력을 하고 있을 뿐입니다. 여성들의 고통을 이용해서 돈을 번다고 생각되실 수 있지만, 저희 서비스가 없어져도 피해자들은 이미 고통받고 있으며, 그 피해를 줄일 수 있는 방법이 하나 없어질 뿐입니다. 참고 영상 하나 끝까지 보시길 추천드립니다. https://youtu.be/nK44fF6sABQ
빠른 답변 감사드립니다. 인공지능 앨리스가 필요없다고 말씀드린 건 아닙니다. 그러나 범죄 피해자들이 돈을 지불하여 그 영향으로부터 나와야 한다는 점은 여전히 달라지지 않는 것 같아요(디지털 장의사도 같은 맥락으로 비판적입니다. 사실 이건 정부에서 무상지원해야 하는게 맞죠.). 이런 서비스를 내셨으면 적어도 그 문제의 근간까지 가려 노력하셨으면 좋겠습니다. 단지 이 BM으로만 그치는 것이 아니라, 직접 이 솔루션을 들고 정부 부처에 찾아가 이를 피해자의 자비 대신 세금으로 운영하게 하던지 피해자 가운데에서도 돈이 없는 분들은 지원할 수 있는 방책을 마련하는 등 다른 방식도 필요해 보입니다. 피해자가 내는 구독료만이 이 솔루션의 BM은 아니겠지요?
말씀 주신 정부의 역할은 저희가 노력한다고 되는 일은 아니라서요. 정부에서 협력을 요청하면 저희는 언제든지 할 용의가 있습니다. 말씀 주신 것 처럼 구독모델 말고 다른 BM이 가능한지 여쭤보고 의견을 구하고 싶네요. ^^;
저도 Kyungsuk님 의견에 동의합니다. '모든 세상 사람들이 앨리스를 쓰는 모습은 어떤 모습일까?'를 생각해보았을 때, 전국의 수 많은 피해자분들이 언제 알림이 올지 몰라 불안해하며 앨리스에 매달 돈을 내고 있는 모습이 좋게 느껴지지는 않았습니다. 저는 앨리스처럼 잠재적 피해자들에게 안심이라는 가치를 제공하는 서비스의 경우에는, 피해자들에게 직접 돈을 부과하기 보다는 잠재적 피해자들로부터 안심을 얻기를 원하는 업체에 솔루션을 판매하는 모습이 좋지 않을까 생각을 합니다. 공중 화장실 불법 촬영을 감지할 수 있는 솔루션이 있다면, 그 솔루션을 여성 또는 잠재적 피해자들에게 파는 것이 아니라, 그들에게 안심이라는 가치를 제공해야하는 레스토랑, 카페 등에게 판매하는 것입니다. 물론 제가 이 사업을 하는 것이 아니기 때문에 이러한 BM이 얼마나 어려울지는 잘 모르겠습니다. 다만, 좀 더 지속가능한 방법으로 앨리스가 해결하고자 하는 문제를 혁신할 수 있으면 좋지 않을까 생각해봅니다. 충분히 기술적으로는 그걸 해내실 수 있는 역량이 있으신 팀이니까요. :)
Junghyun Park님 좋은 의견 감사합니다. 최대한 정부기관이나 업체들과 제휴 방법을 찾아볼 수 있도록 하겠습니다. 감사합니다. ^^
앞으로도 응원하겠습니다! 종종 디스콰이엇에 소식 전해주세요~! :)