블로그

Jun 21, 2023

Activision은 Modulate와 협력하여

업데이트 날짜: 12:40 EDT / 2023년 8월 31일 Kyt Dotson Activision Blizzard Inc.는 다음 개발사인 Modulate와 파트너십을 맺고 자사 게임의 음성 채팅 악성 코드를 처리하는 데 더 강력한 역할을 맡고 있습니다.

업데이트됨 12:40 EDT / 2023년 8월 31일

작성자: Kyt Dotson

Activision Blizzard Inc.는 온라인 채팅의 안전성을 평가할 수 있는 기계 학습 음성 기술 개발자인 Modulate와의 파트너십을 통해 자사 게임에서 음성 채팅 악성 코드를 처리하는 데 더 강력한 역할을 맡고 있습니다.

수요일에 발표된 새로운 기술은 Activision의 1인칭 슈팅 게임 "Call of Duty: Modern Warfare II" 및 "Call of Duty: Warzone"에 북미 전역에 배치될 예정입니다. "Call of Duty"는 Activision의 가장 인기 있는 타이틀 중 하나이며 "Modern Warfare II"는 Activision의 출시 첫 주말에 가장 많이 팔린 작품이었습니다. 2022년 11월 출시 기간 동안 단 3일 만에 8억 달러 이상의 수익을 창출하여 Valve Corp.의 Steam 플랫폼에서만 최대 동시 플레이어 수인 169,000명의 플레이어를 기록했습니다.

온라인 게임 플랫폼은 텍스트와 음성 모두에서 플레이어가 서로에게 욕설을 퍼붓는 온라인 게임 채팅에서 "해로운 행동"이라고 부를 수 있는 문제로 인해 종종 어려움을 겪었습니다. 이는 사이버 괴롭힘, 증오심 표현, 차별적인 언어 및 괴롭힘을 통해 발생할 수 있습니다. 이는 특히 경쟁의 강도와 아드레날린이 치솟는 가운데 발생할 수 있습니다.

새로운 음성 채팅 조정 시스템은 유해한 행동을 실시간으로 식별하고 이를 시행하는 데 도움을 줄 수 있는 인공 지능으로 구동되는 Modulate의 시스템인 ToxMod를 사용합니다. 이 기술은 이미 게임 내 채팅에 대해 14개 언어를 필터링하여 텍스트와 음성 채팅을 모두 추적하고 있는 Activision의 독성 방지 팀에 도움이 될 것입니다.

Modulate에 따르면 ToxMod는 대화의 뉘앙스를 분석하여 "f-ye!" 사이의 차이를 구분할 수 있도록 고급 기계 학습을 적용하여 음성 채팅에 플래그를 지정하는 방식으로 작동합니다. 그리고 "F- 너!" 다른 플레이어의 대화 내용과 반응을 살펴봄으로써 사용자의 감정을 파악합니다.

악의적인 말과 괴롭힘을 탐지하는 데 도움을 주는 것 외에도 회사는 최근 "위험 범주"를 추가했습니다. 이를 통해 기계 학습 알고리즘은 시간이 지남에 따라 폭력적인 과격화 또는 아동 그루밍의 심각한 위험을 시사하는 행동 추세를 탐지할 수 있습니다.

새로운 위험 범주는 단순한 발화를 사용하고 의도 패턴을 사용하여 행동을 표시하려는 실시간 조정보다 더 큰 시간 규모를 차지합니다. 이렇게 하면 중재자는 타임라인에서 플레이어 행동을 전체적으로 파악하여 커뮤니티에서 처리해야 할 사항이 있는지 확인할 수 있습니다.

Activision의 CTO인 Michael Vance는 “게임에서는 파괴적인 행동이나 괴롭힘이 용납되지 않습니다.”라고 말했습니다. “특히 파괴적인 음성 채팅을 해결하는 것은 오랫동안 게임 전반에 걸쳐 매우 어려운 과제였습니다. 이는 모든 플레이어에게 재미있고 공정하며 환영받는 경험을 만들고 유지하기 위한 중요한 단계입니다.”

경쟁이 치열한 e스포츠 게임인 리그 오브 레전드(League of Legends)의 퍼블리셔인 Riot Games Inc.와 같은 게임 개발자들은 오랫동안 게임의 독성에 직면해 왔으며 채팅에서의 행동을 억제하기 위해 노력해 왔습니다. 이러한 행동에 대처하기 위해 Riot과 다수의 게임을 보유한 프랑스 비디오 게임 퍼블리셔인 Ubisoft Entertainment SA는 협력하여 악의적인 언어와 행동을 처리하는 데 도움이 되는 AI 기반 중재용 데이터베이스를 구축했습니다.

Modulate CEO Mike Pappas는 “이는 'Call of Duty'와 같은 규모의 플레이어 커뮤니티를 지원하는 데 있어 큰 진전이며 이러한 노력을 주도하려는 Activision의 지속적인 노력을 더욱 강화합니다.”라고 말했습니다.

Activision은 "Modern Warfare II" 출시 이후 "Call of Duty"의 기존 조정 팀이 현재 기술을 사용하여 1백만 개 이상의 계정에 대한 음성 또는 문자 채팅을 금지했다고 자랑했습니다. 필터링과 신고를 결합할 때 회사 자체 연구에 따르면 악성 플레이어의 20%는 첫 번째 경고를 받은 후 재범을 하지 않습니다. 문자 및 음성 채팅 제한이나 일시적인 계정 권한 상실 등 추가 처벌을 받는 사람들.