Google은 감지 기능을 개선하기 위해 배우와 조작 소프트웨어를 사용하여 3,000개의 동영상을 제작했습니다.
Google은 유료 배우를 사용하여 제작한 딥페이크 동영상의 대규모 데이터베이스를 공개했습니다. 데이터베이스가 AI로 생성된 가짜 비디오를 탐지하도록 설계된 시스템을 강화할 것으로 기대됩니다.
인공지능
- 알아야 할 7가지 고급 ChatGPT 프롬프트 작성 팁
- 2023년 최고의 ChatGPT 플러그인 10개(및 이를 최대한 활용하는 방법)
- 나는 업무용 AI 도구를 많이 테스트했습니다. 지금까지 내가 제일 좋아하는 5개야
- 인간인가 봇인가? 이 Turing 테스트 게임은 AI 탐지 기술을 테스트합니다.
2020년 미국 대통령 선거가 다가옴에 따라 여론을 조작하고 분열시키는 데 사용될 수 있는 딥페이크 동영상을 탐지하기 위한 더 나은 시스템을 구축하기 위한 경쟁이 벌어지고 있습니다.
이달 초, 페이스북과 마이크로소프트는 딥페이크 비디오를 탐지하기 위한 시스템 구축을 돕기 위해 딥페이크 비디오를 제작하는 1,000만 달러 규모의 프로젝트를 발표했습니다.
보다: AI와 머신러닝을 구현하는 방법 (ZDNet 특별보고) | 보고서를 PDF로 다운로드 (테크리퍼블릭)
페이스북으로 당시 언급된, 탐지 시스템의 문제 중 하나는 탐지 시스템을 만들고 테스트를 위한 벤치마크 역할을 하는 데 사용할 자료가 많지 않다는 것입니다. 해당 프로젝트는 또한 유료 행위자를 사용하여 더 큰 데이터 세트를 생성하고 있습니다.
Google과 Alphabet의 Jigsaw는 28명의 배우가 포함된 조작된 동영상 3,000개로 구성된 데이터 세트를 새로운 프로젝트에 제공하고 있습니다. FaceForensics 벤치마크, 얼굴 조작 감지를 위한 자동화된 벤치마크가 되는 것을 목표로 합니다.
이 벤치마크는 뮌헨 공과대학과 나폴리 페데리코 2세 대학의 연구원들이 개발 중입니다. Google은 해당 비디오를 Deep Fake 탐지 데이터 세트라고 부릅니다. FaceForensics 벤치마크에 대한 세부정보에 액세스할 수 있습니다. 연구원의 GitHub 페이지에서.
"이 데이터세트를 만들기 위해 지난 1년 동안 우리는 돈을 받고 동의한 배우들과 협력하여 수백 개의 비디오를 녹화했습니다. 공개적으로 사용 가능한 딥페이크 생성 방법을 사용하여 우리는 이러한 비디오에서 수천 개의 딥페이크를 만들었습니다." Google Research의 Nick Dufour와 Jigsaw의 Andrew Gully가 말했습니다..
"진짜와 가짜의 결과 비디오는 우리가 딥페이크 탐지 노력을 직접 지원하기 위해 만든 기여로 구성됩니다."
Google은 올해 초에도 데이터 세트를 공개했습니다. 딥페이크 오디오 감지를 도와주세요 최근 사기를 당한 임원이 전출되는 등의 사건을 예방하기 위해 상사의 목소리를 합성한 사기꾼에게 20만 달러 이상.
Google과 Alphabet의 Jigsaw는 28명의 배우가 포함된 3,000개의 조작된 동영상 데이터세트를 제공하고 있습니다.
딥페이크 및 보안에 대해 자세히 알아보기
- 페이스북, 마이크로소프트: 딥페이크 영상을 찾아내는 기술에 천만 달러를 지불할 것
- 이메일 잊어버리기: 사기꾼들은 CEO의 목소리 '딥페이크'를 사용하여 직원들에게 현금을 송금하도록 속입니다.
- '딥페이크' 앱 Zao, 중국에서 심각한 개인정보 보호 문제 촉발
- AI, 양자컴퓨팅, 5G가 범죄자를 그 어느 때보다 더 위험하게 만들 수 있다고 경찰에 경고
- 삼성은 AI를 사용하여 사진을 말하는 머리 비디오로 변환합니다.
- 페이스북의 팩트체커는 AI를 훈련시켜 '딥페이크' 동영상을 탐지한다
- 딥페이크의 숨겨진 위험 테크리퍼블릭
- Bill Hader의 딥페이크는 정말 끔찍합니다. 씨넷