John Edwards는 디지털 플랫폼이 운영되는 관할권에 적응하고 조치를 취해야 한다고 말했습니다. 플랫폼, 청중, 기술이 다음과 같은 방식으로 사용되는 것을 방지합니다. 크라이스트처치.
뉴질랜드 개인 정보 보호 위원인 John Edwards는 이번 주 시드니에서 열린 IAPP ANZ 정상 회담에서 기조 연설을 사용하여 다음과 같이 말했습니다. 새로운 디지털 경제 질서의 몇 가지 과제, 특히 한 국가가 기술을 어떻게 활용할 수 있는지 논의합니다. 거인.
그는 “디지털 플랫폼은 자신이 운영하는 관할권에 적응해야 하며 그 반대가 되어서는 안 된다”고 말했다.
국내 및 국내에서 활동하는 100명 이상의 데이터 보호 및 개인 정보 보호 위원이 있으며 "국내법의 패치워크"에 대한 독립적인 규정을 제공합니다.
"국내 당국과 의미 있게 협력하는 것이 나에게는 어려운 일이다. 우리가 수입한 기술을 통해 섭취하고 있는 가치, 관습, 문화적 환경에 대한 관심입니다." 에드워즈가 말했다.
"검열관, 선거관리위원회, 경쟁을 통해 모든 관할권에 걸쳐 도전 과제를 배가할 때 당국, 소비자 보호 당국 및 온라인 피해 기관, 단편화 규모가 즉시 발생합니다. 분명한. 그러나 '그들'은 여전히 '하나'이다."
Edwards는 2019년에는 국가보다 더 큰 기업이 있다는 우려를 공유했습니다. 페이스북의 "인구"는 20억 명이 넘는데, 그들 중 누구도 그곳에서 투표권이나 규제권을 갖고 있지 않습니다.
"그들은 빠르게 움직이고 문제를 해결하며 광섬유 광대역의 속도로 혁신하고 수십억 명의 삶을 개선하는 환상적인 서비스를 제공하며 규제 기관을 혼란에 빠뜨립니다. 따라잡을 수 없고, 자원을 맞출 수 없으며 '모든 제품에 적합한 단일 사이즈'가 실제로 모든 제품에 적합하지 않다는 것을 효과적으로 주장할 수 없습니다."라고 그는 말했습니다.
호주에서는: 호주 법을 위반한 소셜 미디어 대기업에 대한 처벌로 노동당이 징역형을 선고받았습니다.
크라이스트처치 테러 당시 영상이 공개됐다. 페이스북에서 약 4,000회 조회됨 페이스북은 이전에 최종 보고되기까지 29분이 걸렸다고 밝혔습니다.
삭제에도 불구하고 공격 후 처음 24시간 동안 약 150만 개의 비디오 복사본이 네트워크에 생성되었습니다. 그러나 120만 개가 넘는 동영상이 업로드 시 차단되면서 게시된 사본은 약 30만 개에 불과했습니다.
YouTube에는 테러 공격 후 첫 24시간 동안 1초에 한 번씩 동영상 사본이 업로드되었습니다.
Edwards는 Facebook이 서비스를 출시하기 전에 이러한 방식으로 서비스가 사용될 가능성을 알고 있었다고 말했습니다.
그는 "플랫폼과 청중, 기술이 그런 식으로 사용되는 것을 방지하기 위한 조치를 알고 있었지만 조치를 취하지 못했습니다"라고 말했습니다.
"예상할 수 있었고 예견된 일이었습니다. 그리고 책임이 있는 회사는 침묵했습니다. 본국 관할권이 제공하는 보호가 모든 곳에서 책임으로부터 보호받을 것이라고 확신했습니다."
Edwards는 뉴질랜드와 호주 모두 법안 230조에 대해 투표를 하지 않았으며 협의도 하지 않았다고 말했습니다. 미국 통신 품위법, 그러나 여전히 그 효과를 느끼고 있습니다. "대화형 컴퓨터 서비스의 제공자 또는 사용자는 다른 정보 콘텐츠 제공자가 제공하는 정보의 게시자 또는 발표자로 취급되어서는 안 됩니다."
그러나 Edwards가 말했듯이 제약 기업가는 엄격한 테스트와 규제 없이는 제품을 출시할 수 없습니다.
또한보십시오: Facebook 데이터 개인 정보 보호 스캔들: 치트 시트 (테크리퍼블릭)
그는 "페이스북은 총격범이 3월 15일 최종적으로 선택한 목적으로 사용될 수 있다는 사실을 알고 라이브 스트리밍 제품을 출시했고 어쨌든 진행했다"고 말했다.
"그들은 플랫폼이 강간, 자살, 살인 및 기타 유사한 콘텐츠를 방송하는 데 사용될 수 있다는 것을 알고 있었습니다. 그들은 인공 지능과 인간 조정의 결합이 이러한 위험을 완화하고 대중이 기술의 이점을 누릴 수 있도록 해줄 것이라고 대중에게 확신시켰습니다."
페이스북의 대테러 정책 책임자가 미국 의회에 보낸 성명에서 공개된 바와 같이, 페이스북의 AI는 이러한 정보를 포착하지 못했습니다. 이 영상은 처음에는 대부분 ISIS의 참수 영상을 토대로 훈련되었기 때문에 당시에는 총잡이의 잔혹한 장면이 '충분하지 않았다'는 의미였습니다. 동영상.
"데이터 보호법만으로는 이러한 피해를 막을 수 없습니다. 데이터 보호와 개인 정보 보호 당국이 협력할 수 있도록 좀 더 민첩한 소비자 보호 메커니즘이 필요할 수도 있습니다. 다른 소비자 안전 규제 기관과 협력하여 시장에 유해한 제품이 등장하는 데 더욱 적극적으로 대응하기 위해 노력하고 있습니다." Edwards 말했다.
그는 "크라이스트처치에서 얻은 교훈 중 하나는 우리가 함께 모여 반박할 수 없는 도덕적 권리를 제시할 때 산업계가 행동에 나서도록 강요할 수 있다는 것"이라고 말했다. 크라이스트처치 전화.
"그러나 그들의 관심을 끌고 유지하기 위해서는 또 다른 테러리스트의 잔학행위, 부패한 선거나 국민투표, 미얀마 대량 학살이 필요해서는 안 됩니다."
Edwards는 또한 Google의 알고리즘이 설계된 바로 그 일을 수행한 결과 재판이 위험에 처한 젊은 여성의 살인을 지적했습니다.
그녀의 현재 기소된 살인자는 그의 이름 공개에 대한 진압 명령을 받았습니다. 그러나 국제 언론은 이 명령에 얽매이지 않았고 10만 명 정도의 개인이 그의 이름을 "구글링"한 결과 검색 대기업의 인기 주제 알고리즘이 촉발되었습니다.
그는 검색하는 개인과 언론 보도에 일부 책임이 있다고 말했지만 뉴질랜드 장관은 법무부는 법원의 명령을 이행하지 못한 구글을 비난과 비판으로 지목했습니다. 존경합니다.
7월의 구글 사과하고 정지했다 Trends Alert 가입자 이메일 시스템.
Edwards는 "Google의 고도로 정교하고 자동화된 서비스는 설계된 대로 작동한 것 같습니다."라고 말했습니다.
'뉴질랜드 언론 매체를 담당하는 인간이 하는 여러 요인의 조합에 대응할 수 없었던 것 같습니다. 명령을 내리는 것, 무책임한 국제 언론의 명령 위반, 호기심 많은 사람들의 수많은 이름 검색."
그는 이벤트의 독특한 조합이 글로벌 기업에 진정한 도전이 된다고 말했습니다.
"그 시스템은 뉴질랜드 전체 인구를 하찮은 것으로 간주하는 규모로 배포되도록 설계되었습니다. 따라서 그 곤경에 대해 어느 정도 동정심을 갖는 것이 가능합니다.”라고 Edwards는 말했습니다.
"하지만 많지는 않아요.
"규모의 문제는 해당 플랫폼 자체 제작의 문제입니다."
관련 보도
- 뉴질랜드 개인정보보호위원회, 페이스북을 '도덕적으로 파산한 병리적 거짓말쟁이'로 분류
- 페이스북, 마이크로소프트, 트위터, 유튜브, 크라이스트처치 콜을 위한 대테러 노력 점검
- 유해한 콘텐츠에 대한 Facebook의 정책 변경은 뉴질랜드 총리 Ardern의 지지를 얻습니다.
- 크라이스트처치 공격으로 페이스북 라이브 제한
- 크라이스트처치 모스크, 총격범 탐지 위해 AI 비전 설치
- 마이크로소프트 브래드 스미스, 크라이스트처치 공격 이후 기술 업계에 더 나은 조치 촉구