OpenAI paga a los usuarios del chatbot de IA ChatGPT hasta 20.000 dólares por encontrar errores y vulnerabilidades en el sistema.
Mediante una publicación de blog, la compañía anunció que iniciaría un programa para encontrar vulnerabilidades en sus productos de IA.
Como medio de comunicación sobre los problemas de detección de vulnerabilidades, OpenAI ha firmado un acuerdo con la plataforma Bugcrowd Inc. encargada de recopilar solicitudes de los participantes del programa.
OpenAI está dispuesto a pagar a partir de 200 dólares por el descubrimiento de vulnerabilidades de “baja gravedad” y hasta 20.000 por los “hallazgos extraordinarios”.
Según la empresa, decidió lanzar este programa de vulnerabilidades porque cree que la transparencia y la colaboración son claves para poder identificar los problemas que puede tener una determinada tecnología.
“Esta iniciativa es una parte natural de nuestra visión general para desarrollar una IA segura y avanzada. Queremos crear tecnologías y servicios seguros y confiables, por lo que nos gustaría pedir ayuda al resto del mundo” señala la empresa.
Por el momento. En la plataforma de Bugcrowd, el Programa de Vulnerabilidades de OpenAI identifica un conjunto de problemas de seguridad por los que no se otorga ninguna recompensa.
En particular, esto incluye solicitudes a ChatGPT relacionadas con extorsionar información prohibida del bot mediante engaño, escribir código malicioso o solicitudes en las que el usuario obliga al chatbot a escribir insultos.