YouTube implementará medidas de segurança em resposta à inteligência artificial, enquanto adota funcionalidades avançadas de IA | GGames

Mesmo que o YouTube anuncie várias novidades relacionadas à inteligência artificial (IA), a plataforma de vídeos do Google também quer implementar políticas para proteger seus usuários.

De acordo com uma postagem no blog oficial do YouTube, nos próximos semanas, a plataforma passará a exigir que conteúdos publicados que tenham sido gerados usando a IA generativa sejam identificados. Além disso, vídeos que “simulem um indivíduo identificável ou imitem a voz única de um artista” – ou seja, deepfakes – serão removidos usando uma nova ferramenta especialmente desenvolvida para esse fim.

Embora essa última parte pareça se referir especificamente a músicos, é provável que deepfakes de outras naturezas – como declarações falsas atribuídas a figuras políticas ou vídeos pornográficos falsos – também estejam incluídos nessas medidas.

“A IA generativa tem o potencial de expandir a criatividade no YouTube e transformar a experiência para espectadores e criadores em nossa plataforma. No entanto, é igualmente importante equilibrar essas oportunidades com a responsabilidade de proteger nossa comunidade.

Todo o conteúdo publicado no YouTube está sujeito às regras de nossa comunidade – independentemente de como foi gerado – mas também reconhecemos que a IA traz novos riscos e demanda novas abordagens. Estamos nos estágios iniciais de nosso trabalho e continuaremos a evoluir nossa abordagem à medida que aprendemos mais.”– YouTube

A rede social afirma que as mudanças serão implementadas “nas próximas semanas”.

Pelos exemplos divulgados, as etiquetas de alerta serão exibidas em várias áreas – como descrição de vídeo, sobreposições no reprodutor, comentários etc. – indicando que o conteúdo sendo assistido é “sintético”, ou seja, foi criado ou alterado digitalmente de alguma forma.

O formulário para solicitar a remoção de conteúdo também foi atualizado para refletir essas mudanças.