자녀의 사진을 공유하시겠습니까? 어쩌면 이 딥페이크 광고를 본 후에는 그렇지 않을 수도 있습니다.

소셜 미디어에서 수백만 건의 조회수를 기록하고 있는 새로운 AI 생성 비디오 광고 캠페인은 많은 부모들이 자녀에 대해 공개적으로 공유하는 정보가 무엇인지 재고하게 만들 수 있습니다.

Deutsche Telekom 비디오는 어린이의 디지털 발자국이 어떻게 잠재적으로 오용되어 삶을 손상시킬 수 있는지 보여주기 위해 최신 인공 지능 기술을 사용하여 배우가 연기한 Ella라고 불리는 9세 어린이의 나이를 가상으로 지정합니다.

"나는 당신에게 이 사진들이 단지 추억일 뿐이라는 것을 압니다. 그러나 다른 사람들에게는 그것은 데이터입니다." AI가 생성한 Ella는 단계적인 사회 실험에서 부모 역을 맡은 커플에게 말합니다. "그리고 나에게는 어쩌면 끔찍한 미래의 시작일 수도 있습니다."

역시 배우들이 연기한 영상 속 엘라의 부모는 엘라의 생활에 대해 자주 온라인에 게시하며, 그것이 미래에 엘라에게 미칠 수 있는 잠재적인 피해를 인지하지 못한 채 평온한 순간을 공유하는 것으로 묘사됩니다.

해당 영상은 가짜지만, 일부 전문가들은 영상의 경고 메시지가 매우 현실적이라고 말합니다.

온라인에서 아동 성적 학대의 확산을 막기 위해 싸우는 비영리 단체인 Thorn의 데이터 과학 이사인 Dr. Rebecca Portnoff는 ABC와의 인터뷰에서 "이미지가 온라인에 공유되면 그 끝이 어디인지 통제하기 어려울 수 있습니다"라고 설명했습니다. 소식.

캠페인은 온라인 괴롭힘부터 신원 도용, 아동 성적 학대 자료(CSAM) 제작에 이르기까지 자녀의 데이터를 과도하게 공유할 때 발생할 수 있는 다양한 잠재적 위험을 문서화합니다.

포트노프는 "나쁜 행위자들은 다양한 콘텐츠 조작 기술과 서비스를 사용해 일반적으로 어린이의 소셜 미디어 계정이나 공개 웹에서 무해한 사진과 비디오를 변경하여 이 콘텐츠를 성적으로 표현합니다"라고 덧붙였습니다.

이러한 위험은 과거에 문서화되었지만 AI의 증가와 접근성이 증가함에 따라 위험이 더욱 악화됩니다. 이는 공개적으로 사용 가능한 수많은 데이터와 결합되어 범죄자에게 더 많은 작업 콘텐츠를 제공합니다.

'공유'는 부모가 자녀에 대한 콘텐츠를 온라인으로 공유하는 것을 가리키는 데 사용되는 용어입니다. 쉐렌팅의 잠재적 영향을 연구한 Boston Children's Digital Wellness Lab의 전문가들은 부모가 서로 연결하는 쉽고 접근 가능한 방법이라고 설명했습니다.

전문가들은 Barclays Bank의 추정에 따르면 2030년까지 연간 740만 건의 신원 사기 사건이 부모가 온라인에서 개인 정보를 과도하게 공유하는 것과 연관될 수 있다고 강조했습니다.

Deutsche Telekom 캠페인에서 설명한 것처럼 생성 AI를 사용하면 음성부터 인물까지 자녀의 모습을 믿을 수 있는 복제본으로 만들 수 있습니다.

이 캠페인은 또한 AI 알고리즘이 어린이의 이미지를 자동으로 식별하고 수집하는 방법과 이를 사용하여 광고 목적으로 사용하거나 포르노 콘텐츠를 만들 수 있는 어린이의 프로필을 만드는 방법도 자세히 설명합니다.

Portnoff와 같은 전문가들은 AI가 포식자들이 공개적으로 사용 가능한 이미지에서 사실적인 자료를 생성하거나 완전히 새로운 자료를 생성하는 것을 더 쉽게 만들고 있다고 말합니다.

동시에 Thorn과 같은 조직에서는 CSAM을 감지, 제거, 신고하는 도구를 구축하기 위한 기계 학습 알고리즘도 개발했습니다.

Boston Children's Digital의 전문가들은 "소셜 미디어 세계가 계속 진화함에 따라 부모는 친구 및 가족과의 연결과 온라인 생활의 결과를 처리해야 하는 개인으로서 자녀를 존중하는 것 사이에서 균형을 유지하기 위해 노력할 수 있습니다"라고 촉구했습니다. 웰니스 연구실.

부모가 균형을 유지할 수 있는 방법에 관해서는 사진과 콘텐츠를 가족 및 친구와 비공개 앨범에만 공유하고 공개적으로는 공유하지 않는 것이 자녀의 개인 정보를 보호하고 위험을 최소화하면서 공유할 수 있는 한 가지 방법입니다.

Portnoff는 또한 가족이 아이들에게 온라인 안전에 대해 교육할 수 있는 방법에 대한 몇 가지 제안도 했습니다.

"부모는 자녀에게 온라인 안전에 대해 일찍부터 자주 이야기하고 집에서 개방적이고 판단 없는 환경을 조성할 수 있습니다. 부모는 자녀가 사용하는 앱, 소셜 네트워크, 온라인 서비스는 물론 개인 정보 보호 통제가 무엇인지 이해하기 위해 노력할 수 있습니다. 그런 다음 개인 정보 보호 제어 기능을 활용하세요."라고 그녀는 말했습니다. "개인 정보 공유를 피하는 것이 중요한 이유와 온라인에서 공유되는 내용의 영속성을 포함하여 온라인 안전에 대해 어린이에게 교육하는 것이 중요합니다."