Dentro de las capacidades que ofrece la inteligencia artificial conocemos que hay algunos modelos capaces de controlar hasta cierto punto un sistema informático. Esto es uno de los avances que OpenAI lleva buscando desde hace tiempo, y esta vez han presentado una combinación de Operator con las herramientas de ChatGPT para crear un agente de IA con una gran cantidad de funciones.
A principios de año vimos cómo la compañía OpenAI presentó un nuevo modelo de inteligencia artificial que podía controlar un navegador basándose en lo que le indicaba un usuario. Este parece el funcionamiento normal y corriente de cualquier herramienta similar, pero la gran diferencia estaba en que Operator contaba con la capacidad de hacer las búsquedas en tiempo real en un navegador. Ahora la compañía lo ha integrado por completo a ChatGPT combinando todas las funciones que tiene el chatbot con las capacidades que ofrece esta herramienta para gestionar un navegador. Esta implementación está disponible para usuarios que tengan las suscripciones Pro, Plus y Team mientras que llegará en las próximas semanas para usuarios Enterprise y Education.
Llega el agente de ChatGPT, lo nuevo de OpenAI con capacidad limitada para controlar un PC
Las capacidades que tiene la inteligencia artificial cada vez son más amplias, en general conocemos que hay chatbots capaces de ofrecer información simplemente con hacerles una pregunta clara y concisa. Tanto ChatGPT como Grok son el claro ejemplo de cómo funcionan este tipo de sistemas, pero ahora el modelo de OpenAI llega con una serie de funciones mucho más avanzadas. Y es que la implementación de Operator ofrece un navegador visual que interactúa con la web mediante una interfaz gráfica de usuario, junto con un navegador basado en texto para consultas web basadas en razonamiento y acceso directo a API.
Este nuevo sistema logra que el agente de ChatGPT pueda interactuar en varios niveles, siendo el principal el normal que podemos encontrar de cómo una IA recaba información mientras que se le añade la capacidad de poder interactuar con un entorno diseñado para humanos. Esto implica que se pueden hacer solicitudes para que controle ciertos aspectos de un ordenador que encontramos en los navegadores. Esto se aplica a prácticamente todo lo que una persona podría hacer a través de un ordenador, desde buscar vuelos baratos hasta encontrar información sobre una persona, pasando también por la capacidad de hacer compras e incluso interactuar con otras aplicaciones ofimáticas.
Qué limitaciones tiene esta nueva función
La concesión de control sobre el navegador a un agente de IA plantea importantes desafíos de seguridad, que OpenAI aborda mediante múltiples capas de protección y control por parte del usuario. Las funciones que ofrece al final se basan en la capacidad de poder interactuar directamente con un entorno diseñado específicamente para las personas que manejan un PC por lo que puede acceder a todo tipo de información disponible en un navegador, incluidas todas las sesiones que este tenga abiertas. Por este motivo OpenAI ha dejado claras varias limitaciones que tiene esta nueva herramienta a la hora de interactuar con el entorno para aumentar la seguridad del modelo:
Confirmación explícita del usuario
Para poder interactuar con el entorno ChatGPT necesita una confirmación por parte del usuario, la herramienta pide permiso cada vez que realiza acciones sensibles o que pueden tener cierto impacto como hacer compras, interactuar con páginas que requieren datos personales, hacer reservar y similares.
Supervisión activa («Modo observación»)
A la hora de hacer funciones fundamentales que impliquen utilizar aplicaciones sensibles como redactar y enviar correos requieren la supervisión del usuario así como la aprobación en cada paso.
Mitigación proactiva de riesgos
Existen grandes limitaciones a la hora de hacer tareas de alto riesgo, ChatGPT rechaza activamente todas las tareas que puedan tener relación con el movimiento de grandes cantidades de dinero o con interacciones legales delicadas.
Defensa contra ataques adversos (inyección de indicaciones)
La compañía ha entrenado el modelo para detectar y responder frente a ataques de inyección, prioriza las instrucciones fiables descartando las que no lo son mientras que la confirmación por parte del usuario blinda todavía más sus acciones.
Prevención de usos indebidos
La herramienta ChatGPT rechaza sistemáticamente las solicitudes dañinas o ilegales que siguen las políticas de seguridad de la empresa.