Apple, Microsoft y Google están anunciando una nueva era para lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Los dispositivos, dicen, automatizarán tareas como editar fotografías y desearle feliz cumpleaños a un amigo.
Pero para que esto funcione, estas empresas necesitan algo de usted: más datos.
En este nuevo paradigma, su computadora con Windows tomará una captura de pantalla de todo lo que haga cada pocos segundos. Un iPhone recopilará información de muchas aplicaciones que utilices. Y un teléfono Android puede escuchar una llamada en tiempo real para alertarle de una estafa.
¿Está dispuesto a compartir esta información?
Este cambio tiene implicaciones importantes para nuestra privacidad. Para ofrecer los nuevos servicios personalizados, las empresas y sus dispositivos necesitan un acceso más persistente e íntimo a nuestros datos que antes. En el pasado, la forma en que usábamos aplicaciones y recuperamos archivos y fotografías en teléfonos y computadoras era relativamente aislada. Los expertos en seguridad dicen que la IA necesita una visión general para conectar los puntos entre lo que hacemos en aplicaciones, sitios web y comunicaciones.
«¿Me siento seguro al brindar esta información a esta empresa?» » Cliff Steinhauer, director de la Alianza Nacional de Ciberseguridad, una organización sin fines de lucro de ciberseguridad, habló sobre las estrategias de IA de las empresas.
Todo esto sucede porque ChatGPT de OpenAI sacudió la industria tecnológica hace casi dos años. Desde entonces, Apple, Google, Microsoft y otros han revisado sus estrategias de productos, invirtiendo miles de millones en nuevos servicios bajo el término general AI. Están convencidos de que este nuevo tipo de interfaz informática, que estudia constantemente lo que estás haciendo para ofrecerte ayuda, será indispensable.
Según los expertos, el mayor riesgo potencial para la seguridad de este cambio proviene de un cambio sutil en la forma en que funcionan nuestros nuevos dispositivos. Debido a que la IA puede automatizar acciones complejas, como eliminar objetos no deseados de una fotografía, a veces requiere más potencia informática de la que nuestros teléfonos pueden manejar. Esto significa que es posible que una mayor parte de nuestros datos personales tengan que salir de nuestros teléfonos para ser procesados en otro lugar.
La información se transmite a lo que se llama la nube, una red de servidores que procesan las solicitudes. Una vez que la información llega a la nube, otros pueden verla, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y aunque algunos de nuestros datos siempre se han almacenado en la nube, nuestros datos más personales e íntimos, antes reservados a nuestros ojos (fotos, mensajes y correos electrónicos), ahora pueden ser conectados y analizados por una empresa en sus servidores.
Las empresas de tecnología dicen que han hecho todo lo posible para proteger los datos de las personas.
Por ahora, es importante comprender qué pasará con nuestra información cuando utilicemos herramientas de inteligencia artificial. Entonces obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Planeo esperar para ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.
Esto es lo que necesita saber.
Inteligencia de Apple
Apple anunció recientemente Apple Intelligence, un conjunto de servicios de inteligencia artificial y su primera entrada importante en la carrera de la inteligencia artificial.
Los nuevos servicios de IA se integrarán en los iPhone, iPad y Mac más rápidos a partir de este otoño. Las personas podrán usarlo para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siri, para hacerlo más conversacional y darle acceso a datos de todas las aplicaciones.
En la conferencia de Apple de este mes, donde se demostró Apple Intelligence, Craig Federighi, vicepresidente senior de ingeniería de software de la compañía, explicó cómo podría funcionar: Federighi dijo que recuperó un correo electrónico de un colega pidiéndole que reprogramara una reunión, pero no estaba Se supone que esa noche vería una obra de teatro protagonizada por su hija. Luego, su teléfono mostró su calendario, un documento con detalles sobre la sala y una aplicación de mapas para predecir si llegaría tarde a la sala si aceptaba una reunión más tarde.
Apple dijo que estaba trabajando para procesar la mayoría de los datos de IA directamente en sus teléfonos y computadoras, lo que evitaría que otros, incluido Apple, tuvieran acceso a la información. Pero para las tareas que deben transmitirse a servidores, Apple dijo que ha desarrollado medidas de protección, incluida la codificación de los datos mediante cifrado y su eliminación inmediata.
Apple también ha implementado medidas para evitar que sus empleados tengan acceso a los datos, dijo la compañía. Apple también dijo que permitiría a los investigadores de seguridad auditar su tecnología para garantizar que cumpla sus promesas.
El compromiso de Apple de eliminar los datos de los usuarios de sus servidores la diferencia de otras empresas que retienen datos. Pero Apple no sabe exactamente qué nuevas solicitudes de Siri podrían enviarse a los servidores de la compañía, dijo Matthew Green, investigador de seguridad y profesor asociado de ciencias de la computación en la Universidad Johns Hopkins, quien fue informado por Apple sobre su nueva tecnología. Todo lo que sale de tu dispositivo es inherentemente menos seguro, afirmó.
Apple dijo que cuando se lance Apple Intelligence, los usuarios podrán ver un informe sobre las solicitudes que salen del dispositivo para ser procesadas en la nube.
Las computadoras portátiles con inteligencia artificial de Microsoft
Microsoft está llevando la IA a las computadoras portátiles a la antigua usanza.
La semana pasada, la compañía comenzó a lanzar computadoras con Windows llamadas Copilot+ PC, que comienzan en $1,000. Las computadoras contienen un nuevo tipo de chip y otro hardware que, según Microsoft, mantendrá sus datos privados y seguros. Las PC pueden generar imágenes y reescribir documentos, entre otras nuevas funciones impulsadas por IA.
La compañía también lanzó Recall, un nuevo sistema que permite a los usuarios encontrar rápidamente documentos y archivos en los que trabajaron, correos electrónicos que leyeron o sitios web que visitaron. Microsoft compara Recall con una memoria fotográfica integrada en su PC.
Para usarlo, puedes ingresar oraciones simples, como «Estoy pensando en una videollamada que tuve con Joe recientemente mientras sostenía una taza de café que decía 'Amo Nueva York'». Luego, la computadora recuperará la grabación de la videollamada que contiene estos detalles.
Para hacer esto, Recall toma capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y compila esas imágenes en una base de datos con capacidad de búsqueda. Las instantáneas se almacenan y analizan directamente en la PC, por lo que Microsoft no revisa los datos ni los utiliza para mejorar su IA, dijo la compañía.
Aún así, los investigadores de seguridad han advertido sobre riesgos potenciales, explicando que los datos podrían revelar fácilmente todo lo que usted escribió o vio si fuese pirateado. En respuesta, Microsoft, que había planeado lanzar Recall la semana pasada, pospuso su lanzamiento indefinidamente.
Las PC están equipadas con el nuevo sistema operativo Windows 11 de Microsoft. Tiene varias capas de seguridad, dijo David Weston, ejecutivo de seguridad de la empresa.
IA de Google
Google también anunció un conjunto de servicios de inteligencia artificial el mes pasado.
Una de sus mayores revelaciones fue un nuevo detector de estafas para llamadas telefónicas impulsado por inteligencia artificial. La herramienta escucha las llamadas telefónicas en tiempo real y, si la persona que llama parece un estafador potencial (por ejemplo, si solicita un PIN bancario), la empresa se lo notifica. Google dijo que la gente debería habilitar el detector de estafas, que se administra completamente desde el teléfono. Esto significa que Google no escuchará las llamadas.
Google anunció otra función, Preguntar fotos, que requiere que se envíe información a los servidores de la empresa. Los usuarios pueden hacer preguntas como «¿Cuándo aprendió mi hija a nadar?» » para que aparezcan las primeras imágenes de su hijo nadando.
Google dijo que sus empleados pueden, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotografías para abordar abusos o daños, y que la información también podría usarse para ayudar a mejorar su aplicación Fotos. En otras palabras, su pregunta y la foto de su hijo nadando podrían usarse para ayudar a otros padres a encontrar imágenes de sus hijos nadando.
Google dijo que su nube está bloqueada con tecnologías de seguridad como cifrado y protocolos para limitar el acceso de los empleados a los datos.
«Nuestro enfoque de la privacidad se aplica a nuestras funciones de inteligencia artificial, ya sea que estén habilitadas en el dispositivo o en la nube», dijo Suzanne Frey, jefa de confianza y privacidad de Google, en un comunicado de prensa.
Pero Green, el investigador de seguridad, dijo que el enfoque de Google hacia la privacidad de la IA parecía relativamente opaco.
«No me gusta la idea de que mis fotos muy personales y mi investigación muy personal sean enviadas a una nube que no está bajo mi control», dijo.