Un grupo de 200 importantes empresas de tecnología han unido esfuerzos en Estados Unidos para promover prácticas responsables de IA. El consorcio del American AI Safety Institute (AISIC) incluirá a Apple, Meta, Google y Microsoft como miembros.
“Mitigar riesgos y aprovechar el enorme potencial de la inteligencia artificial”
La secretaria de Comercio, Gina Raimondo, acaba de anunciar varios Nuevos miembros Del grupo lo dijo. Será asignado para realizar los trámites indicados. Bajo la amplia orden ejecutiva del presidente Biden sobre inteligencia artificial.
El gobierno de Estados Unidos tiene un papel importante que desempeñar en el establecimiento de estándares y el desarrollo de las herramientas que necesitamos para mitigar los riesgos y aprovechar el enorme potencial de la inteligencia artificial.
Dijo Raymundo en un comunicado.
La orden ejecutiva de Biden de octubre fue de gran alcance. Por lo tanto, este consorcio se centrará en desarrollar directrices Para "colaboración roja, evaluaciones de capacidad, gestión de riesgos, seguridad y protección, y contenido sintético con marca de agua".
Equipo rojo
“Equipo rojo” es un término de ciberseguridad que se remonta a la Guerra Fría. Se refiere a simulaciones en las que el enemigo es designado como "equipo rojo". En este caso, El enemigo será una IA empeñada en “portarse” mal. Las personas involucradas en esta práctica intentarán engañar a la IA para que haga cosas malas, como revelar números de tarjetas de crédito, mediante piratería directa. Una vez que las personas sepan cómo romper el sistema, podrán crear mejores protecciones.
El contenido sintético con marcas de agua es otro aspecto importante de la orden original de Biden. Los miembros del consorcio desarrollarán directrices y procedimientos Para garantizar que los usuarios puedan reconocer fácilmente los materiales generados por IA..
Se espera que esto reduzca los deepfakes y la desinformación generada por la inteligencia artificial. Las marcas de agua digitales aún no se han adoptado ampliamente, Aunque este programa "facilitará y ayudará a estandarizar" las especificaciones técnicas que sustentan la práctica.
El consorcio apenas está comenzando, aunque el Departamento de Comercio dice que representa la mayor colección de equipos de prueba y evaluación del mundo.
Lea también:
