OPINIÓN: Apple al hacer que las funciones de iOS 18 impulsadas por OpenAI sean ‘opt-in’ reconocería el enorme riesgo que está asumiendo al meterse en la cama con una empresa empeñada en ganar la carrera armamentista de la IA.
Según se informa, Apple buscará el consentimiento expreso de los usuarios de iPhone antes de permitir el uso de herramientas de inteligencia artificial generativa de terceros en iOS 18. Según un informe de Mark Gurman de Bloomberg, que detallamos a principios de esta semana, algunas de las nuevas funciones de inteligencia artificial van a ser “optar por participar” en lugar de ser forzados al máximo como nuevas herramientas imprescindibles para todos.
Y con razón.
Dado que los esfuerzos de Apple para revitalizar y reiniciar Siri con inteligencia artificial siguen retrasados, según todos los indicios, se dice que el fabricante del iPhone se está metiendo en la cama con OpenAI para llenar el vacío. Quizás temporalmente.
Todavía tenemos que ver qué tan estrecha será la integración y qué barreras de seguridad se implementarán. Por ejemplo, ¿será muy diferente a tener ChatGPT como una aplicación independiente de la App Store? ¿O será el sistema operativo que se definirá como Copilot en Windows 11?
Esas respuestas deberían llegar la próxima semana en la WWDC. De todos modos, no es un movimiento insignificante integrar una aplicación de terceros de tal magnitud en el ecosistema iOS.
Llámelo caballo de Troya, durmiendo con el enemigo, la serpiente en el jardín del Edén, o un modismo de su elección, es algo de lo que las figuras clave de Apple son cautelosas, según el informe de Gurman. A algunos les preocupa dejar libre un “chatbot deshonesto” y otros tienen una “aversión filosófica” a tener un chatbot de terceros integrado en iOS.
Al asociarse con ChatGPT para potenciar algunas de sus nuevas funciones de inteligencia artificial, Apple es consciente del riesgo que está asumiendo, pero aparentemente siente la necesidad de asumirlo.
Sus competidores, Google, Samsung, Microsoft y los fabricantes de chips como Qualcomm se están sumergiendo de cabeza en la era de la IA de los teléfonos inteligentes y las computadoras portátiles y parece que no hay vuelta atrás (hasta que aparezcan los inevitables productos para «esto me da asco, ¿cómo puedo evitarlo?» ?’ personas dentro de unos años).
Apple siempre ha hecho las cosas a su propio ritmo y lanzó sus grandes revisiones en el momento que considera apropiado para su base de clientes. Sin embargo, la dirección del viaje es sólo en una dirección y puede ser que Apple (ciertamente según los fiables informes internos de Mark Gurman) no sienta que puede llegar tarde a esta fiesta.
La supuesta alianza podría tener enormes consecuencias y no hay garantía de que sean positivas.
La carta escarlata
Hay mucho escepticismo y desconfianza del público en torno a OpenAI, un intenso disgusto por la habilidad de ChatGPT de hacer que profesiones creativas enteras sean redundantes, temores de cómo sus LLM están capacitados en datos, la gente podría no haber dado permiso para ser utilizados para este propósito, cómo los editores y otros están venderse para ayudar con esa capacitación y la seguridad de las solicitudes una vez que abandonan el dispositivo y se dirigen a la nube.
Más allá de las discusiones sobre su tecnología, OpenAI en sí no es un bastión de estabilidad. La complicada situación del año pasado cuando las demandas despidieron al director ejecutivo Sam Altman, quien aceptó unirse a Microsoft antes de que todo se resolviera. No parece que ésta sea una empresa en igualdad de condiciones. Y, para una entidad que podría definir el futuro de la relación de la humanidad con la tecnología, no nos llena de confianza.
La reciente controversia muy pública sobre el uso de la voz de Scalett Johannsoncomo algo que podría hacer que las personas se sintieran cómodas con el uso de la IA, tuvo exactamente el efecto contrario.
La actriz dijo: “Me dijo que sentía que al expresar el sistema, podría cerrar la brecha entre las empresas de tecnología y los creativos y ayudar a los consumidores a sentirse cómodos con el cambio sísmico que afecta a los humanos y la IA. Dijo que sentía que mi voz consolaría a la gente”.
No sorprende que ese tipo de sentimiento asquee a la gente. Cuando ella dijo que no, Altman siguió adelante y usó a alguien cuya voz se parecía a la de ella, por decirlo muy amablemente.
No sale de la situación, que podría haber sido la primera vez que muchas personas escuchan sobre OpenAI, parecer una persona confiable. En cambio, él es haciendo comparaciones con Miles Dyson – el ambicioso programador del Skynet que induce el apocalipsis en la historia de Terminator 2.
El miedo tampoco es sólo un pánico moral externo. Esta misma semana, empleados actuales y anteriores hablaron sobre la falta de supervisión y los graves riesgos que plantean las tecnologías. También lamentaron su capacidad para hablar abiertamente sobre los peligros debido a los acuerdos de confidencialidad estrictos.
en un carta abiertadijeron los empleados: “Las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva, y no creemos que las estructuras personalizadas de gobierno corporativo sean suficientes para cambiar esto.
«También entendemos los graves riesgos que plantean estas tecnologías», antes de decir que las empresas «actualmente sólo tienen obligaciones débiles de compartir parte de esta información con los gobiernos, y ninguna con la sociedad civil». No creemos que se pueda confiar en que todos lo compartirán voluntariamente”.
Culpable por asociación
Si las prácticas de OpenAI desembocan en mayores controversias, Apple será considerada culpable por asociación, especialmente si los incidentes ocurren a través del hardware de Apple. Como dice el refrán, si te acuestas con un perro, puedes despertarte con pulgas. Esta es la razón por la que Apple supuestamente está habilitando estas funciones para garantizar que los usuarios hayan aceptado activamente utilizarlas.
Apple tiene una reputación ganada con esfuerzo por poner la privacidad al frente de su propuesta tecnológica. Durante mucho tiempo ha declarado que es una empresa de hardware y no una empresa de datos y que cuenta con prácticas para garantizar que sus datos no sean explotados. Su amplia base de clientes confía en gran medida en esa promesa.
Esta es una carrera armamentista tecnológica muy importante. Está sucediendo muy rápidamente, sin interrupción de seguridad. Apple, de todas las empresas, llegar a un acuerdo de este tipo con OpenAI parece apresurado y poco propio de Apple.
Apple ha integrado continuamente herramientas de terceros a lo largo de la era del iPhone para llenar los vacíos en los productos que estaba desarrollando o que no participaba en el juego. Google Maps, por ejemplo, era un elemento básico integrado antes de Apple Maps. La Búsqueda de Google ha sido el proveedor predeterminado de búsqueda dentro de Safari desde hace años. YouTube también estuvo integrado en iOS.
¿Quizás esto no sería una gran preocupación para mí y para otros, si Apple estuviera planeando la integración con Google Gemini, como también se informó, en lugar de OpenAI?
No es que Google sea angelical de ninguna manera, pero hay una familiaridad allí para los usuarios que podrían ser escépticos, y un largo y rentable respeto mutuo y una relación entre las dos partes que va más allá de la rivalidad entre iPhone y Android. Mejor El Diablo, ya sabes, tal vez.
Esperaremos a ver cómo se desarrolla esto en la WWDC y una vez integrado en iOS 18, pero en este momento una alianza entre OpenAI y Apple es una señal de alerta gigante.
