"Sólo
puede ser atribuible a un error humano" (HAL 9000, 2001: Una Odisea en el Espacio)
El mundo de la
inteligencia artificial y, más aún, de los asistentes personales, siendo como
son éstos una de sus principales aplicaciones prácticas, siempre ha despertado
recelos entre la mayor parte los usuarios de las nuevas tecnologías. Este miedo
se vio perfectamente reflejado en la adaptación cinematográfica que Stanley
Kubrick hizo del guión escrito por Athur
C. Clarke hace más de 40 años. En ella, el HAL 9000 lograba trascender de su
propio programa para adquirir conciencia propia e incumplir las órdenes de sus
tripulantes para tratar de garantizar su propia supervivencia.
Afortunadamente,
aun estamos muy lejos de ese nivel de desarrollo de los sistemas de IA, pero,
¿y si no fuera necesario tal nivel de sofisticación? ¿Y si nuestro asistente
personal nos estuviera “traicionando” continuamente sin que nos diéramos
cuenta?
SIRI, el
asistente personal que Apple adquirió en 2010, fue la gran novedad que presentó
el iPhone 4S en el momento de su lanzamiento, allá por Octubre de 2011. Para
aquél que no lo sepa, SIRI no es sino un asistente personal para iOS que utiliza
procesamiento del lenguaje natural para responder preguntas, hacer
recomendaciones y realizar acciones mediante la delegación de las solicitudes a
un conjunto de servicios web que va en aumento.
El problema surge cuando, cualquier acción que nosotros solicitamos a
SIRI, es procesada a través de los servidores de Apple, haciendo un tratamiento
de los mismos, cuanto menos, “opaco”. SIRI, y por ende la propia Apple, sabe a
quién llamamos más, qué lazos familiares nos unen con aquellos nombres que
tenemos memorizados en la agenda, a qué hora es nuestra cita en el dentista,
dónde es y que recorrido hemos seguido hasta llegar allí. Si preguntamos a SIRI
por las sesiones de cine más próximas, será capaz de reproducir las
valoraciones que han hecho los espectadores, y a qué hora se exhiben en nuestra
sala más cercana. A la salida nos recomendará un restaurante de comida italiana
que esté cerca, y mandará un email de aviso a nuestro acompañante informando de
lo mucho que hemos disfrutado la velada. Y todo ello, repito, informando a la
propia Apple.
Los sistemas CRM
pueden ser de una gran utilidad tanto para usuarios como para las compañías, a
la hora de ahorrar tiempo y esfuerzos e incrementar el porcentaje de
satisfacción a la hora de prestar servicios, pero…¿somos siempre conscientes
del uso que se hace de estos datos personales? ¿se emplean siempre para los
fines que conocemos y hemos tolerado o hay algo más detrás de ellos? Tal y como
sabemos, la información vale (mucho) dinero, e, incluso, y de modo ajeno a las
compañías, pueden existir filtraciones de la misma y se puede acabar haciendo
un uso fraudulento de ella.
Desgraciadamente
para nosotros los usuarios, nos encontramos en una posición de debilidad
absoluta. La ola digital avanza imparable hacia nosotros, y hemos de decidir,
casi de manera inconsciente si queremos subirnos a ella y surfearla, o, por el
contrario, nos veremos ahogados por el tsunami tecnológico. Lo único que
podemos hacer es informarnos bien de los términos en los que se empleará la información
recolectada, tomar una serie de precauciones, y tratar de que nuestros poderes
públicos velen por la seguridad de sus ciudadanos.
Quién sabe si, en
un futuro no muy lejano, no pediremos nosotros a nuestro asistente que deje de
recolectar nuestra información personal, y entonces nos responda con algo
similar a aquel “Lo siento Dave, pero me temo que no puedo hacer eso”…
