ChatGPT, OpenAI y otras nimiedades…

 Por Marvin Soto

No cabe duda de que el uso de la inteligencia artificial (IA) en las tecnologías emergentes continúa avanzando rápidamente.

Arrancando diciembre, OpenAI abrió el acceso a ChatGPT, un chatbot impulsado por inteligencia artificial (IA) que interactúa con los usuarios de una manera inquietantemente convincente y conversacional. Un chatbot es una aplicación de software diseñada para imitar una conversación similar a la humana según las indicaciones del usuario.

La capacidad de ChatGPT para proporcionar respuestas extensas, reflexivas y exhaustivas a preguntas e indicaciones, incluso si son inexactas, ha sorprendido a los usuarios, incluidos académicos y algunos en el sector de la tecnología.

La herramienta rápidamente se volvió viral. Según indico el cofundador de Open AI, -Sam Altman-, en Twitter, ChatGPT superó el millón de usuarios a puertas de su lanzamiento. También captó la atención de algunos líderes tecnológicos destacados, como el director ejecutivo de Box, Aaron Levie.

La empresa detrás de ChatGRT es OpenAI, con sede en San Francisco, quien hizo que la última creación del chatbot ChatGPT, estuviera disponible para pruebas públicas gratuitas s partir del 30 de noviembre pasado.

OpenAI, que es una firma de investigación y desarrollo, fue fundada como una organización sin fines de lucro en 2015 por el inversionista de Silicon Valley Sam Altman y el multimillonario Elon Musk. No obstante, rápidamente atrajo fondos de varios otros, incluido el capitalista de riesgo Peter Thiel.

Elon Musk, que sigue inmerso en su revisión de la empresa de redes sociales Twitter, misma que adquirió hace poco, dejó la Junta Directiva de OpenAI en 2018, pero intervino con su opinión sobre el fenómeno viral, calificándolo de “muy aterrador”. De hecho, Musk luego tuiteó que estaba pausando el acceso de OpenAI a la base de datos de Twitter después de enterarse de que la empresa la estaba usando para “entrenar” la herramienta.

OpenAI afirma que su modelo ChatGPT, entrenado con una técnica de aprendizaje automático llamada “Aprendizaje por refuerzo a partir de comentarios humanos (en inglés, “Reinforcement Learning from Human Feedback (RLHF))”, puede simular diálogos, responder preguntas de seguimiento, admitir errores, desafiar premisas incorrectas y rechazar solicitudes inapropiadas.

El desarrollo inicial involucró a entrenadores humanos de Inteligencia Artificial (IA), que proporcionaron al modelo conversaciones en las que jugaron en ambos lados: el usuario y un asistente de IA.

La versión del bot disponible para pruebas públicas, intenta comprender las preguntas planteadas por los usuarios y responde con respuestas detalladas que se asemejan a un texto escrito por humanos en un formato conversacional.

Una herramienta como ChatGPT podría utilizarse en aplicaciones del mundo real, como marketing digital, creación de contenido en línea, responder consultas de servicio al cliente o, como han descubierto algunos usuarios, incluso para ayudar a depurar el código.

El bot puede responder a una amplia gama de preguntas mientras imita los estilos de habla humanos.

Al igual que con muchas innovaciones impulsadas por IA, ChatGPT no viene sin dudas. OpenAI ha reconocido la tendencia de la herramienta a responder con “respuestas que suenan plausibles, pero incorrectas o sin sentido”, un problema que considera difícil de solucionar. La tecnología de IA también puede perpetuar sesgos sociales como los relacionados con la raza, el género y la cultura.

Gigantes tecnológicos como Google by Alphabet Inc (GOOGL.O) y Amazon.com (AMZN.O) han reconocido previamente que algunos de sus proyectos que experimentaron con IA eran “éticamente arriesgados” y tenían limitaciones. En varias empresas, los humanos tuvieron que intervenir y arreglar el caos de la IA.

“Si bien nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones perjudiciales o exhibirá un comportamiento sesgado”, dijo Open AI en su sitio web, y agregó: “Utilizamos la API de moderación para advertir o bloquear ciertos tipos de contenido inseguro, pero esperamos que tenga algunos falsos negativos y positivos por ahora. Estamos ansiosos por recopilar comentarios de los usuarios para ayudar en nuestro trabajo continuo para mejorar este sistema”.

Es sin duda un enorme y hasta peligroso avance, veremos los resultados a medida que esta tecnología se entrenen más y eliminen más sesgos, falsos positivos y muchas de las diferencias lingüísticas, étnicas, sociales y culturales.

Por ahora, ChatGPT proporciona fácilmente respuestas resumidas a casi todas las preguntas y no solo para preguntas simples, sino que incluso las preguntas complejas se responden en segundos. Además, proporciona respuestas fáciles y rápidas, lo que me hace concluir que este es su gran diferenciador de mercado, pero a la vez, su mayor defecto, ya que las respuestas simples y rápidas son tan atractivas que estoy seguro de que muchas personas caerán en la trampa y terminarán teniendo una visión de túnel. Algo que ya saboreamos en las redes sociales.

OpenAI ha sido pionera en la investigación y el avance de la IA, y seguiré al tanto de sus últimas investigaciones. ChatGPT está lejos por ahora de ser acabar con el dominio de Google. La justificación es simple… Google proporciona información de múltiples fuentes confiables, actualizando constantemente su algoritmo para filtrar información incorrecta.

ChatGPT es revolucionario y será maravilloso ver su desarrollo en el futuro. Pero de momento concuerdo en que visitar y coquetear con el proyecto sería lo recomendable, manteniendo la cautela y la confianza baja sobre todas sus respuestas.

Tomado de Marvin G. Soto con permiso de su autor