GGames! Blog: YouTube implementará medidas de segurança em relação à IA, enquanto aproveita recursos de IA

Apesar de o YouTube comunicar diversos novos recursos relacionados à inteligência artificial (IA), a plataforma de vídeos do Google também pretende implementar diretrizes para proteger seus usuários desses recursos.

De acordo com uma publicação no blog oficial do YouTube, a partir das próximas semanas, será exigido que conteúdos publicados na plataforma que tenham sido gerados por meio da IA generativa sejam identificados como tal. Além disso, será criada uma nova ferramenta para a remoção de vídeos que “simulem uma pessoa identificável ou que imitem a voz única de um artista” – ou seja, deepfakes.

Embora essa última parte pareça se referir especificamente a músicos, é provável que outros tipos de deepfakes – como declarações falsas atribuídas a figuras políticas ou vídeos pornográficos falsos – também sejam incluídos.

“A IA generativa tem o potencial de expandir a criatividade no YouTube e transformar a experiência para espectadores e criadores em nossa plataforma. No entanto, é igualmente importante que essas oportunidades sejam equilibradas com nossa responsabilidade de proteger nossa comunidade.

Todo o conteúdo publicado no YouTube está sujeito às regras de nossa comunidade – independentemente de como foi gerado -, mas sabemos que a IA traz novos riscos e requer novas abordagens. Estamos nos estágios iniciais de nosso trabalho e continuaremos a desenvolver nossa abordagem à medida que aprendermos mais.”– YouTube

A plataforma afirma que as mudanças serão implementadas “nas próximas semanas”.

De acordo com as imagens divulgadas, etiquetas de aviso aparecem em diferentes áreas – como a descrição do vídeo, sobreposições no player e comentários – indicando que o conteúdo sendo assistido é “sintético”, ou seja, foi criado ou alterado digitalmente de alguma forma.

O formulário de solicitação e remoção de conteúdo também foi atualizado para refletir essas mudanças.