La inteligencia artificial está ganando cada vez más peso dentro de las empresas, siendo una herramienta habitual para la gran mayoría de ellas. No solo se utiliza para generar textos o automatizar tareas, sino también para analizar información, apoyar la toma de decisiones o agilizar procesos internos. Sin embargo, a medida que estas herramientas se integran dentro del trabajo diario, es más la información que recibe sobre cómo trabaja cada compañía.
Por ello surge una preocupación y un nuevo debate: ya no es que esté solo el coste de utilizarlas, sino que las empresas podrían estar compartiendo sin darse cuenta parte de su conocimiento más valioso con quienes desarrollan estos modelos.
¿Que significa que las empresas «pagan dos veces» al usar la IA?
Sobre ello ha reflexionado y advertido Satya Nadella, consejero delegado de Microsoft, en una publicación en su blog donde asegura que muchas compañías están «pagando dos veces» por utilizar la inteligencia artificial. La primera vez lo hacen con dinero en el momento que contratan estos servicios y la segunda con su propio conocimiento e información que puede ser clave para su negocio. Según explica, cuanto más se quiere aprovechar una herramienta como modelo de IA, más información específica necesita reunir.
“En esencia, se paga por la inteligencia dos veces: primero con dinero y luego con algo aún más valioso: el conocimiento especializado que hay que revelar para que esa inteligencia sea útil. Cuanto mejor se quiera que funcione el modelo, ¡más conocimiento especializado hay que proporcionarle!”, escribe.
Eso significa compartir instrucciones, documentos internos, conectar aplicaciones de la empresa o corregir las respuestas que ofrece el modelo cuando comete errores. Nadella señala que ahí está el verdadero problema y uno de los mayores riesgos. Dice que los modelos no solo aprenden de las preguntas que reciben, sino de la forma en la que las personas los utilizan. Cada cambio ayuda a la IA a entender mejor cómo funciona una empresa, qué criterios se usan para tomar decisiones en situaciones concretas.
Esto quiere decir que el modelo puede acabar aprendiendo parte del conocimiento interno de la organización, un tipo de información que, tal y como señala, sería muy difícil de conseguir para un competidor por otras vías. Por eso cree que las empresas deberían ser mucho más conscientes de la información que comparten cuando trabajan con este tipo de plataformas.
Critica la postura que tienen algunos desarrolladores de modelos de IA
Le parece bastante contradictorio que defiendan el derecho a entrenar sus sistemas con grandes cantidades de datos públicos y, a la vez, limiten que otros puedan estudiar el funcionamiento de esos modelos mediante técnicas como la «destilación», que consiste en utilizar respuestas de modelos avanzados para entrenar a otros pequeños o especializados. Como solución, Nadella propone que las empresas mantengan el control sobre toda la información que generan al utilizar la IA, desde las instrucciones y las respuestas hasta las correcciones.
Para conseguirlo, propone crear entornos de aprendizaje propios en la nube y utilizar herramientas que permitan cambiar fácilmente de proveedor sin depender de un único modelo. Explica que este enfoque reduciría la dependencia de un único modelo y daría a cada organización mayor control sobre qué información comparte, dónde se produce, con qué sistema trabaja. De hecho, cada vez más empresas están apostando por modelos abiertos instalados en sus propias infraestructuras, algo que, según distintos expertos del sector, seguirá ganando fuerza en los próximos años.
Nadella señala que ahí está el verdadero problema y uno de los mayores riesgos.
La inteligencia artificial está ganando cada vez más peso dentro de las empresas, siendo una herramienta habitual para la gran mayoría de ellas. No solo se utiliza para generar textos o automatizar tareas, sino también para analizar información, apoyar la toma de decisiones o agilizar procesos internos. Sin embargo, a medida que estas herramientas se integran dentro del trabajo diario, es más la información que recibe sobre cómo trabaja cada compañía.
Por ello surge una preocupación y un nuevo debate: ya no es que esté solo el coste de utilizarlas, sino que las empresas podrían estar compartiendo sin darse cuenta parte de su conocimiento más valioso con quienes desarrollan estos modelos.
¿Que significa que las empresas «pagan dos veces» al usar la IA?
Sobre ello ha reflexionado y advertido Satya Nadella, consejero delegado de Microsoft, en una publicación en su blog donde asegura que muchas compañías están «pagando dos veces» por utilizar la inteligencia artificial. La primera vez lo hacen con dinero en el momento que contratan estos servicios y la segunda con su propio conocimiento e información que puede ser clave para su negocio. Según explica, cuanto más se quiere aprovechar una herramienta como modelo de IA, más información específica necesita reunir.
“En esencia, se paga por la inteligencia dos veces: primero con dinero y luego con algo aún más valioso: el conocimiento especializado que hay que revelar para que esa inteligencia sea útil. Cuanto mejor se quiera que funcione el modelo, ¡más conocimiento especializado hay que proporcionarle!”, escribe.
Eso significa compartir instrucciones, documentos internos, conectar aplicaciones de la empresa o corregir las respuestas que ofrece el modelo cuando comete errores. Nadella señala que ahí está el verdadero problema y uno de los mayores riesgos. Dice que los modelos no solo aprenden de las preguntas que reciben, sino de la forma en la que las personas los utilizan. Cada cambio ayuda a la IA a entender mejor cómo funciona una empresa, qué criterios se usan para tomar decisiones en situaciones concretas.
Esto quiere decir que el modelo puede acabar aprendiendo parte del conocimiento interno de la organización, un tipo de información que, tal y como señala, sería muy difícil de conseguir para un competidor por otras vías. Por eso cree que las empresas deberían ser mucho más conscientes de la información que comparten cuando trabajan con este tipo de plataformas.
Critica la postura que tienen algunos desarrolladores de modelos de IA
Le parece bastante contradictorio que defiendan el derecho a entrenar sus sistemas con grandes cantidades de datos públicos y, a la vez, limiten que otros puedan estudiar el funcionamiento de esos modelos mediante técnicas como la «destilación», que consiste en utilizar respuestas de modelos avanzados para entrenar a otros pequeños o especializados. Como solución, Nadella propone que las empresas mantengan el control sobre toda la información que generan al utilizar la IA, desde las instrucciones y las respuestas hasta las correcciones.
Para conseguirlo, propone crear entornos de aprendizaje propios en la nube y utilizar herramientas que permitan cambiar fácilmente de proveedor sin depender de un único modelo. Explica que este enfoque reduciría la dependencia de un único modelo y daría a cada organización mayor control sobre qué información comparte, dónde se produce, con qué sistema trabaja. De hecho, cada vez más empresas están apostando por modelos abiertos instalados en sus propias infraestructuras, algo que, según distintos expertos del sector, seguirá ganando fuerza en los próximos años.
20MINUTOS.ES – Tecnología
