OpenAI está lanzando un llamado programa de recompensas por errores para pagar hasta 20.000 dólares a los usuarios que encuentren fallas y problemas de seguridad en sus productos de inteligencia artificial, incluido su chatbot ChatGPT, altamente avanzado pero controvertido, ya que la inteligencia artificial enfrenta un mayor escrutinio por parte de los funcionarios gubernamentales y la industria de la tecnología
OpenAI, con sede en San Francisco, anunció en una publicación de blog que proporcionará hasta US$ 6.500 por falla encontrada a través de su programa de recompensas por errores, que está implementando con Bugcrowd Inc.
Según el programa, las personas serán premiadas por encontrar e informar fallas únicas en el sistema de IA que lleven a la empresa a cambiar su código, con recompensas basadas en la "probabilidad o impacto" de la falla y determinadas a discreción exclusiva de OpenAI.
La empresa pagará US$ 200 por "hallazgos de baja gravedad", con el pago total máximo posible de US$ 20.000.
Las fallas elegibles para recompensas en efectivo incluyen aquellas en ChatGPT, que se encuentra en su fase de revisión de investigación, así como los inicios de sesión, los plug-ins, los problemas de pago y la exposición de datos (los usuarios deben mantener la confidencialidad de estas vulnerabilidades hasta que OpenAI les autorice a publicarlas).
En la publicación del blog, la compañía dijo que el programa tiene como objetivo impulsar la "transparencia y la colaboración" y admitió: "Si bien trabajamos arduamente para prevenir riesgos, no podemos predecir todas las formas en que las personas usarán o abusarán de nuestra tecnología en el mundo real".
Detrás del boom ChatGPT
OpenAI, que se fundó en 2015, lanzó ChatGPT al público en noviembre, lo que generó un gran interés en el software de IA. Microsoft, que ya es uno de los patrocinadores de OpenAI, prometió invertir US$ 10 mil millones adicionales en la empresa a principios de este año y comenzó a integrar un servicio de chat impulsado por OpenAI en su motor de búsqueda Bing.
Mira también
Si bien ChatGPT se utilizó para escribir ensayos y poesía de nivel universitario, escribir código de computadora, planificar comidas y hacer presupuestos, a menudo con precisión humana, también se halló que brinda respuestas incorrectas a las preguntas y se contradice.
Mira también
Desde el lanzamiento público de ChatGPT, los usuarios también intentaron llevar el producto al límite, incluso alimentándolo con “jailbreaks”, que intentan sortear hábilmente las restricciones integradas diseñadas para evitar actividades dañinas, como participar en discursos de odio o proporcionar detalles sobre cómo cometer un delito.
Mira también
Alex Albert, un estudiante de informática de la Universidad de Washington que creó un sitio web para mensajes de jailbreak, escribió un hilo de Twitter el mes pasado en el que analizaba algunas de las vulnerabilidades de ChatGPT, lo que llevó al presidente de OpenAI, Greg Brockman, a sugerir que está "considerando iniciar un programa de recompensas".
Los riesgos detrás de la inteligencia artificial
Algunos expertos advirtieron que los productos de IA pueden aumentar el riesgo de engañar a las personas para que crean que información errónea, aparentemente legítima, es real, y eventualmente podría reemplazar a los empleados en la fuerza laboral y ayudar a los estudiantes a hacer trampa en los exámenes.
Paralelamente, los ejecutivos de tecnología, incluido el CEO de Twitter, Elon Musk, y el cofundador de Apple, Steve Wozniak, criticaron el auge de la IA y han pedido a los desarrolladores que detengan inmediatamente el trabajo en ellos para que sus riesgos puedan evaluarse a fondo. En una carta abierta con más de 1000 firmas, los líderes tecnológicos argumentaron que los desarrolladores están inmersos en una "carrera fuera de control" para crear sistemas más avanzados y potentes.
Otros programas de recompensa
El programa de recompensas por errores de OpenAI no es el primero de su tipo: otras compañías también proporcionaron dinero a las personas para descubrir fallas en sus sistemas, incluidas Amazon, AT&T, Bumble, Buzzfeed, Chime, Coinbase y Google Chrome.
Los funcionarios de la Administración Biden también están sopesando posibles regulaciones sobre los sistemas de IA, incluidos ChatGPT y BardAI de Google, pero aún no sugirieron ninguna regulación específica. El martes, el Departamento de Comercio de los Estados Unidos emitió una solicitud pública de comentarios para solicitar ayuda a los legisladores sobre cómo introducir medidas de rendición de cuentas.
*Con información de Forbes US.
