Reconocemos que generar un discurso que se asemeje a las voces de las personas conlleva serios riesgos, que son especialmente importantes en un año electoral. Estamos colaborando con socios estadounidenses e internacionales de todo el gobierno, los medios de comunicación, el entretenimiento, la educación, la sociedad civil y más para garantizar que incorporamos sus comentarios a medida que construimos. 

Los socios que prueban Voice Engine hoy han aceptado nuestro políticas de uso, que prohíben la suplantación de otra persona u organización sin consentimiento o derecho legal. Además, nuestros términos con estos socios requieren el consentimiento explícito e informado del hablante original y no permitimos que los desarrolladores creen formas para que los usuarios individuales creen sus propias voces. Los socios también deben revelar claramente a su audiencia que las voces que escuchan están generadas por IA. Finalmente, hemos implementado un conjunto de medidas de seguridad, que incluyen marcas de agua para rastrear el origen de cualquier audio generado por Voice Engine, así como un monitoreo proactivo de cómo se utiliza. 

Creemos que cualquier implementación amplia de tecnología de voz sintética debe ir acompañada de experiencias de autenticación de voz que verifiquen que el hablante original está agregando conscientemente su voz al servicio y una lista de voces prohibidas que detecte y evite la creación de voces que sean demasiado similares. a figuras destacadas.