Mozilla 예술가들은 AI가 경찰 살해를 예측할 수 있는지 의문을 제기합니다.

두 명의 흑인 예술가가 도발적인 질문을 던지는 새로운 프로젝트를 발표했습니다. 다음 경찰 총격 사건을 예측할 수 있다면 어떨까요?

Mozilla의 도움과 자금 지원으로 두 아티스트는 다음과 같은 혁신적인 프로젝트를 출시했습니다. "미래의 깨우기." 대화형 웹사이트는 그 반대로 경찰의 예측 소프트웨어 사용을 다루고 있습니다. 즉, 실제 법 집행 데이터에 대해 훈련된 AI를 사용하여 미래의 경찰 살해를 예측합니다.

작품의 민감성 때문에 익명을 요청한 두 작가의 작품입니다. 시카고, 휴스턴, 로스앤젤레스, 뉴욕에서 경찰 폭력의 가상 미래 피해자에 대한 이야기 불사조.

사용 경찰서의 인공 지능 미국에서는 수년간 논란을 불러일으켰습니다. AI, 얼굴 인식 소프트웨어 및 예측 도구는 이제 전국적으로 널리 사용되고 있습니다. 경찰 폭력에서 기술의 역할과 특정 폭력에 내재된 편견에 대한 토론 플랫폼. 적어도 650명 2021년 미국에서 경찰의 총에 맞아 사망했습니다.

이 사이트는 가상의 사이트입니다. 일체 포함 시스템은 향후 경찰 살해의 위치와 방식을 예측합니다. 이러한 예측은 잔인할 정도로 자세하게 제시됩니다. 시청자는 가상의 피해자가 자신의 경험과 궁극적인 죽음에 대해 이야기하는 것을 보고 듣습니다.

치명적인 사건과 매핑된 경찰 폭력 데이터 세트에 대해 훈련된 AI 시스템은 누가 그 도시들은 경찰에 의해 살해될 가능성이 가장 높고, 어디서 살해될 수 있으며, 어떻게 살해될 수 있는지 죽었습니다.

예술가들은 Future Wake가 "예측 치안 및 경찰과 관련된 치명적인 만남에 대한 토론을 촉발하려는 예술 프로젝트"라고 재빠르게 언급합니다.

“'웨이크스'는 통계와 인공지능을 활용해 생성되며 20년간의 과거 데이터를 바탕으로 제작됐다. 생성된 피해자와 이야기는 실제가 아니다"라고 아티스트들은 사이트에서 말했다.

이 프로젝트는 Mozilla의 Creative Media Awards를 통해 자금을 지원 받았습니다. 네덜란드 출신의 두 예술가는 1월에 발표된 대규모 프로그램의 일부입니다. "AI의 검은 심문."

이 프로그램은 아티스트가 AI 시스템을 활용하는 데 도움을 주기 위해 노력했으며 이 도구는 "오프라인에서 오랫동안 존재해 온 편견을 영속화하고 증폭시킬 수 있다"고 말했습니다.

"추천 알고리즘은 인종차별적 메시지를 조장합니다. 얼굴 인식 시스템은 흑인 얼굴을 잘못 식별합니다. 그리고 Alexa나 Siri와 같은 음성 비서는 흑인 목소리를 이해하는 데 어려움을 겪습니다. 소비자 기술 분야의 AI가 더욱 정교해지고 보편화됨에 따라 이와 같은 문제는 더욱 복잡해질 것입니다."라고 Mozilla는 말했습니다.

자신의 성을 공개하지 말라고 요청한 프로젝트의 아티스트 중 한 명인 Tim은 다음과 같이 말했습니다. ZDNet Future Wake의 컨셉은 AI, 예측 치안, 기술 및 예술에 대한 대화에서 탄생했습니다.

"우리의 의도는 작품에 몇 겹의 깊이를 더하는 것입니다. 첫 번째 레이어에는 미국 내외의 대부분의 성인이 접근할 수 있는 미래의 피해자에 대한 시각적 스토리텔링이 포함되어 있습니다. 두 번째 계층은 AI 개념으로, 기술과 예술에 정통한 사람들을 위해 예측 정책을 뒤집습니다. 세 번째는 이러한 주제의 기술과 정치에 대한 더 깊은 탐구입니다."라고 Tim은 말했습니다.

팀은 이 프로젝트를 통해 사람들이 경찰에 의해 살해된 사람들에 대해 더 공감하고 경찰서에서 발표하는 통계에 대해 더 비판적이 되기를 희망한다고 말했습니다.

그는 또한 사람들이 경찰서에서 사용하는 예측 소프트웨어에 대해 인식하고 향후 경찰의 손에 의한 사망을 막는 일이 더욱 시급해지기를 바랐습니다.

잠재적인 비판이나 반발에 대해 물었을 때(특히 이 작품이 불쾌하거나 불쾌하다고 생각할 수 있는 흑인 시청자의 경우) 매일 경찰의 폭력으로 인해 희생되는 실제 흑인의 삶에 둔감함 -- 팀은 에너지를 방향 전환해야 한다고 말했습니다 다른 곳.

"흑인 예술가로서 우리는 이 민감한 주제를 알고 있습니다. 우리는 이 작품을 최대한 주의 깊게 선보이고 있습니다. 그래도 이것은 예술 작품입니다. 사람들은 그것을 좋아할 수도 있고 그렇지 않을 수도 있습니다. 누군가가 미래의 피해자에 대한 우리의 묘사에 불쾌감을 느낀다면 우리는 이 에너지를 폭력에 맞서 싸우는 데 도움이 되도록 방향을 바꾸는 것이 더 낫다고 생각합니다."라고 Tim은 설명했습니다. “이 작품은 흑인 희생자들에 관한 것만이 아닙니다. 모든 인구통계는 데이터베이스와 예측에 표시됩니다."

Tim은 또한 이벤트와 매장에서 대화를 촉진하는 동시에 예술과 기술을 지원하는 Mozilla를 칭찬했습니다.

"그들은 우리와 같은 예술가들을 지원하고 힘을 실어주는 매우 공감적이고 비판적이며 탐구적인 태도를 가지고 있습니다. 그리고 Harmony Labs의 도움으로 우리는 코호트 내부 및 외부의 아티스트들과 다양한 종류의 워크숍과 대화를 나누었습니다."라고 Tim은 말했습니다.

그는 작품이 현재 웹사이트 형태로만 존재하지만, 오프라인 버전 제작에 대한 논의가 진행되고 있다고 덧붙였다.

"Future Wake는 예측 치안 적용을 완전히 뒤집어 놓았습니다. 대중이 저지르는 범죄를 예측하기보다는 앞으로 경찰과의 치명적인 만남에 초점을 맞춘다”고 두 아티스트는 말했다.

“경찰 폭력의 트라우마를 데이터와 통계로만 전달하기보다, 인간이 주도하는 방식을 통해 미래에 예상되는 민간인과 경찰의 만남을 묘사한 내용에 시청자를 연결합니다. 스토리텔링."