호주, 기술 플랫폼으로부터 선택권을 되찾다 — 알고리즘 책임의 시작점에 불과

대형 기술 플랫폼은 장기적으로 정보 배포와 제품 설계권을 장악해 왔지만, 알고리즘 추천으로 인한 예측 가능한 위험은 어린이, 부모, 일반 사용자에게 떠넘겨 왔다. 호주 정부가 추진하려는 '디지털 주의 의무(digital duty of care)'는 이러한 불균형을 바로잡으려는 것이지, 사용자의 선택권을 박탈하는 것이 아니다.

의견 수렴 단계에 있는 이 초안은 TikTok, Instagram, Facebook 등 플랫폼에 사용자가 추천 콘텐츠를 수용할지 사전에 묻고, 사용자가 팔로우하는 계정의 게시물만 표시하도록 변경할 수 있도록 허용할 것을 요구한다. 16세 미만 사용자에 대해서는 플랫폼이 개인화 알고리즘과 무한 스크롤 기능을 반드시 꺼야 한다. 개혁은 기술 기업의 제품 논리에 의해 오랫동안 가려져 온 사실을 인정한다 — 즉, 추천 알고리즘은 사용자가 거부할 수 없는 자연스러운 환경이 아니라, 플랫폼이 능동적으로 배치하고, 끌 수 있으며, 그 결과를 부담해야 하는 시스템이라는 것이다.

플랫폼은 콘텐츠가 사용자에게 도달하는 방식을 결정하는 기술적 권한을 보유하고 있지만, 일반인은 이러한 구조를 파악하기 어려울 뿐 아니라 끊임없는 추천에서 벗어나기도 더욱 어렵다. 초안에 열거된 어린이 위험에는 괴롭힘, 포르노그래피, 여성 혐오 콘텐츠, 범죄 미화, 식이 장애를 조장하는 자료가 포함된다. 성인을 대상으로 한 의무는 이미 범죄를 구성하는 학대, 성폭력, 심각한 협박, 테러 조직 지원, 자살 권유 등의 내용에 집중된다. 호주의 식이 장애 지원 기관인 Butterfly Foundation은 정보 피드가 이상화되고 왜곡된 체중 지향 콘텐츠로 채워진 사용자를 지속적으로 접하고 있으며, 이러한 콘텐츠가 식이 장애의 중요한 유발 요인 중 하나라고 밝혔다. 자녀를 잃은 슬픔을 겪은 부모와 아동 보호 활동가들이 입법을 지지한다는 것은, 이른바 플랫폼의 제품 기능이 이미 가정 안전 영역에 진입했음을 보여준다.

초안은 의무를 이행하지 않은 플랫폼에 1억 호주 달러 이상의 벌금을 부과할 예정이며, 이 점은 매우 중요하다. 기업 의사 결정에 영향을 줄 수 있는 처벌이 없다면 '사용자 자율성'은 설정 메뉴 안에 숨어 있는 장식에 불과해지기 쉽다. 플랫폼은 개인화 추천과 무한 스크롤을 설계할 수 있다면, 피해가 발생한 후 모든 책임을 기술적 능력이 부족한 어린이와 부모에게 다시 떠넘길 수는 없다.

반대자들은 정부가 안전 의무를 명분으로 정보 내용에 개입할 것을 우려하며, 이러한 위험은 법적 경계로 제약되어야 한다. 초안은 현재 성인 보호 범위를 기존의 범죄에 한정하고 있으며, 장관이 새로운 피해 범주를 추가하는 결정은 상원에서 거부할 수 있다. 본문은 호주 방송사(ABC)의 초안 및 관련 입장에 대한 단일 보도를 근거로 하며, 플랫폼의 응답이나 최종 법률文本는 아직 확인할 수 없다.

실제로 깨뜨려야 할 것은 기술 플랫폼이 알고리즘 통제권을 기본적 특권으로 간주하는 질서이다. 호주의 방안은 최소한 하나의 명확한 원칙을 세웠다 — 추천 콘텐츠를 선택하는 사람은 사용자여야 하며, 시스템을 설계하고 운영하는 기업은 피해 방지 의무를 져야 하고, 가정은 글로벌 기술 기업의 안전 비용을 계속 부담해서는 안 된다.