Inteligencia Artificial: de asistir a ejecutar tareas

Durante los últimos dos años, muchas organizaciones sociales empezaron a usar inteligencia artificial como una especie de asistente para varias tareas: una herramienta para escribir textos, resumir documentos, ordenar ideas, traducir mensajes o producir contenidos para campañas. Pero el cambio que estamos presenciando es mucho más profundo. La inteligencia artificial está pasando de responder preguntas a ejecutar acciones.

Además de las tareas que ya venían realizando, como por ejemplo escribir un copy para generar una campaña de adquisición de donantes, ahora los agentes de inteligencia artificial pueden, por ejemplo, planificar tareas, conectarse con herramientas, recordar información, navegar sitios web, completar formularios, mover archivos, ejecutar comandos y operar dentro de distintos entornos digitales con poca supervisión humana.

Obviamente, esto tiene muchas implicancias para el trabajo que hacemos desde la comunicación y el desarrollo de fondos de nuestras organizaciones sociales. Además, nos abre algunas preguntas y desafíos, como por ejemplo, ¿qué pasa cuando una herramienta con acceso a nuestros datos, cuentas, mensajes, donantes y sistemas empieza a actuar por su cuenta?

Uno de los casos que mejor muestra este cambio es OpenClaw, un agente de inteligencia artificial de código abierto que corre localmente en la computadora del usuario y que antes fue conocido como Moltbot y Clawdbot. Se presenta como un asistente que puede funcionar desde aplicaciones de mensajería como WhatsApp, Telegram, Discord, Slack, Signal o iMessage, recordar contexto mediante memoria persistente, controlar el navegador, leer y escribir archivos, ejecutar scripts y correr comandos de sistema.  

Este cambio es clave para nuestro futuro como líderes de una organización social: Ya no vamos a trabajar con herramientas de inteligencia artificial que pueden ayudarnos a pensar o delegarle pequeñas tareas, sino frente a herramientas que pueden decidir y actuar en forma autónoma.

Obviamente que para las organizaciones sociales que cuentan con pocos recursos puede ser muy interesante, porque podríamos tener uno o varios agentes que nos ayuden a ordenar la base de datos, que revisen nuestros documentos, las aplicaciones para solicitar fondos a cooperación internacional, que nos sirva para generar reportes automáticos para las distintas áreas de la organización, para clasificar a los prospectos y a nuestros donantes, o incluso para lanzar sus propias campañas autónomas. Pero esto, que parece tan atrayente, también debe impulsar una mirada que tenemos que tener en cuenta y que tiene que ver con el riesgo.

Desde Auth0 advierten que OpenClaw representa una IA “con manos”, capaz de interactuar con el sistema de archivos local, ejecutar comandos de terminal y mover datos entre aplicaciones. El problema es que, cuando una IA con ese nivel de acceso se equivoca o es comprometida, el riesgo deja de ser una mala respuesta y pasa a ser un serio problema de seguridad.  

The Verge informó que varios investigadores encontraron cientos de extensiones maliciosas subidas al marketplace de “skills” de OpenClaw. Algunas se hacían pasar por herramientas útiles, pero en realidad buscaban robar información sensible, incluyendo credenciales SSH, contraseñas del navegador y claves vinculadas a billeteras cripto.

Según publicó Bitsight existen muchos riesgos de exponer instancias de OpenClaw a internet, especialmente cuando se conectan a servicios de mensajería, productividad, Gmail, navegadores u otras herramientas. Cada integración amplía la superficie de ataque y aumenta las consecuencias potenciales si alguien obtiene acceso no autorizado. 

Frente a esto, las organizaciones sociales no pueden simplemente omitir el uso de inteligencia artificial, sino que tienen que entender que, para poder trabajar con herramientas de inteligencia artificial que son autónomas, se requiere una gobernanza fuerte.

Durante los últimos años, nuestros clientes de organizaciones sociales nos preguntaban como elegir buenas plataformas de email marketing, CRM, donaciones online o automatización. Estas preguntas siguen siendo válidas pero ahora se suma una que tiene muchas implicancias en nuestro futuro: ¿qué permisos le damos a la inteligencia artificial?

En este nuevo escenario ya no vamos a tener solo un chatbot conectado a una cuenta de correo, un CRM, una base de donantes o una herramienta de pagos. Vamos a tener una “Persona digital” con capacidad de operar sobre activos sensibles de la organización.

Si incorporamos estos agentes de IA a nuestro trabajo, van a necesitan autenticarse en múltiples sistemas, por lo que su identidad, permisos, credenciales y ciclo de vida se convierten en una frontera crítica de seguridad. Las organizaciones que usen agentes con claves estáticas, permisos amplios y controles improvisados van a aumentar muchísimo su riesgo y en algunos casos pueden parecer invisibles para la organización.

3 Razones por las cuales las organizaciones tienen que prestar atención a esto:

• Primero, porque trabajan con datos sensibles: donantes, comunidades, voluntarios, activistas, beneficiarios, periodistas, aliados y, muchas veces, personas en situación de vulnerabilidad.
• Segundo, porque muchas organizaciones tienen equipos técnicos chicos y una presión enorme por hacer más con menos. Eso puede llevar a conectar herramientas sin revisar bien permisos, seguridad o responsabilidades.
• Tercero, porque la confianza es uno de los activos más importantes del sector. Una filtración de datos, una automatización mal configurada o una acción no autorizada puede dañar no solo una campaña, sino la relación con una comunidad entera.

Estamos convencidos que las herramientas de inteligencia artificial autónomas pueden ser claves en el futuro de las organizaciones sociales en todas sus áreas, pero esto tiene que implementarse teniendo en cuenta todos los aspectos que involucran a este tipo de tecnologías y para eso tenemos que hacernos algunas preguntas básicas:

• ¿A qué información tendrá acceso cada uno de los agentes que creemos?
• ¿Qué acciones podrá ejecutar?
• ¿Quién supervisará lo que hace?
• ¿Qué permisos son realmente necesarios?
• ¿Podrá borrar, modificar o enviar información sin revisión humana?
• ¿Habrá registros de lo que hizo?
• ¿Se podrá revocar su acceso rápidamente?
• ¿Estará operando en un entorno aislado o sobre sistemas críticos?

En el proceso de adopción de herramientas de inteligencia artificial para las organizaciones sociales, hay tres nuevos elementos que van a ser los más importantes cuando empiecen a trabajar con agentes de inteligencia artificial. Esos tres aspectos son confiabilidad, límites y control.

A la hora de implementar los equipos van a tener que decidir si van a usar herramientas gobernadas por la organización o si van a entrar solamente como una automatización poderosa y difícil de auditar y, por consiguiente, difícil de estimar en cuanto a los riesgos que genera. Tengamos en claro que, más allá que tome decisiones autónomas, la responsabilidad siempre seguirá siendo humana.

¿Charlamos sobre Inteligencia Artificial? ¿Sobre Desarrollo de fondos?

Si vos o tu organización necesitan desarrollar estrategias de comunicación y fundraising integrando herramientas de Inteligencia Artificial o adaptandose a los cambios que implican en este nuevo escenario te invito a contactarse conmigo. También te invito a seguirme en Linkedin. Allí, publico asiduamente contenido sobre el tema. También podés suscribirte a mi newsletter entrando aquí.

Si querés charlar más y compartir experiencias y aprendizajes sobre la inteligencia artificial te invito a sumarte a nuestro grupo de Facebook sobre el tema. Hacé click aquí.