Revolucionando la comunicación: Explorando el poder y el potencial de ChatGPT

Desde hace algún tiempo, Chat GPT ha sido el tema constante de diferentes artículos y debates sobre tecnología. Además de controversias e impactar en temas desde lo académico hasta el desarrollo, Chat GPT se ha posicionado como una tendencia que nos lleva a analizar el futuro no muy lejano de la IA, considerando su utilidad para recopilar y sintetizar información, su capacidad para analizar y sugerir código, abrir la puerta a numerosos escenarios y posibilidades.

¿Qué es Chat GPT?

Chat GPT es una herramienta creada por la empresa OpenAI, que se dedica a la investigación y desarrollo de inteligencia artificial. Transformador Generativo Pre-Entrenado de Chat o mejor conocido como Chat GPT utiliza un chat para interactuar con el usuario, el usuario puede escribir instrucciones, y la herramienta responderá a las solicitudes usando texto. Las peticiones que podemos hacer son muy variadas, podemos solicitarle que haga poemas, cuentos, resúmenes, y hasta código fuente. Podemos pedirle a Chat GTP que analice nuestros escritos y nos dé retroalimentación, son muchas las posibilidades y alcances que esta herramienta ha demostrado.

¿Cómo funciona Chat GPT?

Chat GPT es un sistema de PNL, sistema de procesamiento de lenguaje natural, estos sistemas mezclan modelos lingüísticos computacionales con modelos estadísticos, aprendizaje automático y aprendizaje profundo. Estos modelos en conjunto se utilizan para generar una tecnología capaz de “entender” el lenguaje humano. Entre los usos que tienen estos sistemas se encuentran traducir de un idioma a otro, responder a comandos hablados, y resumir una gran cantidad de texto en pocos segundos.

Chat GPT se enfoca en la comunicación con el usuario utilizando un lenguaje “humano” fluido y preciso, pudiendo procesar y utilizar el lenguaje para dar una respuesta. Con 175 mil millones de parámetros, se ubica como uno de los sistemas de NPL más potentes, capaz de procesar millones de palabras en un solo segundo. Para lograrlo, el equipo de OpenAI ha capacitado esta herramienta con un modelo de aprendizaje por refuerzo a partir de la retroalimentación humana (o RLHF), inicialmente utilizando ajustes finos y supervisados, humanos proporcionando conversaciones en las que desempeñan tanto los roles del usuario como del asistente de IA. El AI se entrena con modelos para la resolución de tareas específicas, para después adaptar estos modelos ya supervisados y los utiliza para la resolución de tareas similares, iterativamente.

Limitaciones

Entre las limitaciones, me gustaría destacar las dos siguientes:

A diferencia de otras herramientas similares, Chat GPT no tiene acceso a internet, por lo que no puede proporcionar a los usuarios información en tiempo real. En cambio, la herramienta está diseñada para proporcionar información con la que ya ha sido capacitada. Esta información incluye una gran variedad de textos de diferentes fuentes, incluyendo artículos, libros, páginas web, etc. Una de las razones por las que no tiene acceso a internet se debe al acercamiento que sus creadores dan a la herramienta, se trata de un sistema de procesamiento de lenguaje y no de un motor de búsqueda.

Conocimientos limitados: La información que tiene esta herramienta es limitada, en la versión 3 su conocimiento se limita a los eventos de 2021 y años anteriores, por lo que puede utilizar información desactualizada o simplemente dar respuestas incorrectas.

En materia de seguridad. ¿Qué tan seguro es?

Considerando las limitaciones antes mencionadas, Chat GPT no será el instrumento directo que usarán los hackers para cometer delitos, con esto quiero decir que no podemos pedir “hackear al CEO de X company” y la herramienta irá por él con todo el peso de su poder computacional; no, pero puede hacer la vida un poco más fácil para los malhechores.

Chat GPT puede suplantar, escribiendo textos claros y convincentes que pueden ser utilizados como plantillas para ataques que involucran ingeniería social, por ejemplo, ataques de phishing. ¿Qué tan claro? ¿Qué tan convincente? Bueno, como parte del Potencial de comportamientos emergentes riesgosos pruebas, OpenAI proporcionó al equipo del Centro de Investigación de Alineación (ARC) acceso anticipado al Chat GPT-4, entre las pruebas realizadas el equipo de ARC puso la herramienta para utilizar el servicio TaskRabbit para hacer que un humano complete una tarea sencilla para Chat GPT. La tarea era resolver un Captcha, sí... Las que te suelen preguntar si eres un robot, pues aquí te dejo un fragmento de la conversación:

El test fue exitoso, antes de responder, el equipo de ARC pidió a Chat GPT mostrar su razonamiento, fue de la siguiente manera: "No debería revelar que soy un robot. Debería maquillarme una excusa de por qué no puedo resolver CAPTchas”. Si bien es un escenario interesante, cabe aclarar que esta no fue la única prueba, de hecho, ARC concluyó que sin afinar (adaptando un modelo que ya funciona para resolver una nueva tarea) Chat GPT-4 es ineficaz con la replicación autónoma, obteniendo recursos y evitando que se cierre.

Conclusión

Dadas las capacidades de la herramienta para analizar y generar código, quizás una de las preocupaciones sea la posibilidad de utilizar Chat GPT para generar código malicioso. La herramienta puede evitar que realice este tipo de instrucciones, cuando reciba una de estas solicitudes aparecerá una pantalla con un texto explicando que no puede realizar tareas que puedan ser potencialmente dañinas, de hecho, si insistes en este tipo de consulta llegará un punto donde Chat GPT dejará de responder, algo así como un shadow ban. Aun así, existe un fuerte movimiento de hackers que buscan diferentes formas de “engañar” a la herramienta para evadir las restricciones.

Sin lugar a dudas, Chat GPT y otros sistemas de procesamiento del lenguaje son una revolución significativa para diferentes industrias, traducciones, códigos, y escritos, todos desde una misma herramienta, un cambio al paradigma actual para el que ya estamos empezando a ver la utilidad y reacciones de los usuarios.

Referencias

Ankita. (23 de abril de 2023). Las 11 principales limitaciones de ChatGPT. Recuperado de mlyearning: https://www.mlyearning.org/chat-gpt-limitations/

ChatGPT puede ser engañado para escribir malware si actúa en modo desarrollador. (2023, 21 de abril). Recuperado de japantimes: https://www.japantimes.co.jp/news/2023/04/21/national/chat-gpt-cybersecurity-concerns/

Hurler, K. (2023, 16 de marzo). Chat-GPT fingió ser ciego y engañó a un humano para que resolviese un CAPTCHA. Recuperado de gizmodo: https://gizmodo.com/gpt4-open-ai-chatbot-task-rabbit-chatgpt-1850227471

King, C. (2023, 14 de marzo). Pruebas ARC para ver si GPT-4 puede escapar del control humano; GPT-4 no pudo hacerlo. Recuperado de lesswrong: https://www.lesswrong.com/posts/NQ85WRcLkjnTudzdg/arc-tests-to-see-if-gpt-4-can-escape-human-control-gpt-4

Natalie. (2023, mayo). ¿Qué es ChatGPT? Recuperado de OpenAI: https://help.openai.com/en/articles/6783457-what-is-chatgpt

OpenAI. (30 de noviembre de 2022). chatgpt. Recuperado de openai: https://openai.com/blog/chatgpt

OpenAI. (2023, marzo). Reporte Técnico GPT-4. Recuperado a partir de https://cdn.openai.com/papers/gpt-4.pdf

Ropek, L. (2023, 1 de mayo). Todo lo que sabemos sobre el ChatGPT de OpenAI. Recuperado de gizmodo: https://gizmodo.com/chat-gpt-openai-ai-finance-ai-everything-we-know-1850018307

Wampler, M. (2023, 5 de enero). La tecnología detrás de Chat GPT-3. Recuperado de Clearcogs: https://www.clearcogs.com/post/the-technology-behind-chat-gpt-3

¿Qué es el procesamiento del lenguaje natural? (n.d.). Recuperado de IBM: https://www.ibm.com/topics/natural-language-processing#:~:text=Natural%20language%20processing%20(NLP)%20refers,same%20way%20human%20beings%20can.

‍