May 22, 2024

Nuestra dieta memética Dic 2019 1. Inteligencia Artificial y Post-Humanismo.

Author: Alejandro Piscitelli
Go to Source

Nos encanta hacer reseñas de los mejores libros leídos durante el año. Con tantos viajes, encuentros y publicaciones fabulosas que brotan cada año diciembre/enero son los momentos de pasar en limpio compras, regalos y pirateadas. No es que lo dejaremos de hacer, pero dos posts recientes de Jordi Carrión nos pusieron en un brete.

En el primero Un nuevo canon cultural en diez objetos, Jordi nos proveyó una lista no tradicional: una antología de objetos que conforman, en conjunto, el retrato de una época que ha borrado los límites entre la alta cultura y, por ejemplo, una historia de Instagram. Globalmente denominó a sus radiografiados como Objetos Culturales Vagamente Identificados (OCVI), e incluyó en el set a una visualización de datos, una campaña publicitaria, una lista de reproducción, un proyecto transmedia, una historia interactiva y varias mas.

Así inició -como buen cazador de tendencias que es- recorridos que estallan las tapas de los libros, los anaqueles de las bibliotecas, los pensum universitarios, y exigen mirar a la cultura con otros ojos, para otros fines y encontrándola en los lugares mas inesperados, fuera de museos, universidades y circuitos culturales hoy endiosados por las industrias culturales.

Siendo todavía mas ambicioso en Balance cultural de una década. 2010-2019 destacó diez claves de la producción cultural de los últimos diez años: de la literatura a la televisión o los videojuegos, todos ellos ámbitos atravesados por las metamorfosis tecnológicas siendo los OCVI solo un a capítulo de una monumental mutación cultural en curso que nos atraviesa a todos.

Si en el post anterior nos hablaba de productos flexibles, ahora nos internó en una infraestructura de producción con plataformas precarias, con videojuegos y comics canonizados, dentro del giro feminista, acicateados por una voluntad arqueológica, las nuevas oralidades, la ciencia-ficción como nuevo realismo, la autoficción y los relatos globales (algunos cubriendo 10.000 años de historia) poniendo patas para arriba nuestros intentos por establecer un frágil canon anual de lecturas deseables, cuando el mundo está en plena expansion y corrimiento hacia el rojo.

Aun así insistimos y aquí va otra de nuestras cornucopias meméticas. Esta es la primera de una serie de varios listados sucesivos (2. La Conciencia es siempre social y las GAFA la están corrompiendo; 3. La irrealidad de la realidad; 4 Tookits para el diseño de nuevas instituciones, etc), que se coronará con una síntesis de nuestras mejores lecturas del 2019 que publicaremos a la brevedad.

_________

1 Clifford A. Pickover Artificial Intelligence: An Illustrated History: From Medieval Robots to Neural NetworksSterling; Edición, 2019.

«El período de tiempo ocupado por la inteligencia orgánica es solo una pequeña diferencia entre la vida temprana y la larga era de las máquinas». —Martin Rees, The Conversation, April 2017 interview”

Desde robots medievales y álgebra booleana hasta reconocimiento facial, redes neuronales artificiales y parches adversos, esta fascinante historia lleva a los lectores a un vasto recorrido por el mundo de la inteligencia artificial. Clifford A. Pickover (The Math Book, The Physics Book, Death & the Afterlife) explora las aplicaciones históricas y actuales de la IA en campos tan diversos como la informática, la medicina, la cultura popular, la mitología y la filosofía, y considera una amenaza permanente para la humanidad si la IA crece fuera de control. A través de 100 entradas ilustradas, Pickover proporciona una mirada entretenida e informativa sobre cuándo comenzó la inteligencia artificial, cómo se desarrolló, a dónde va y qué significa para el futuro de la interacción hombre-máquina.

¿Cómo podemos asegurarnos de que los dispositivos impulsados por IA se comporten de manera ética, y que las máquinas tendrán estados mentales y sentimientos en el mismo sentido que los humanos? Seguramente, las máquinas de IA nos ayudarán a pensar nuevos pensamientos y soñar nuevos sueños, funcionando como prótesis para nuestros débiles cerebros. Para Pickover, la IA cultiva un estado perpetuo de asombro sobre los límites del pensamiento, el futuro de la humanidad y nuestro lugar en el vasto paisaje del espacio-tiempo que llamamos hogar.

Obra mas gráfica que textual con un rico despliegue cronológico que combina desde la historia y la ciencia-ficción a un detallado inventario del verano (que se está volviendo un nuevo invierno de la IA) es recomendable como mapa de una evolución que se inicia en 1300 AC con el Tat-Te-Ti, el autómata griego Talos en 400 AC, pasando por el mecanismo de Antiquera (125 AC), cerrando con los tan mentados casos de AlphaGo, cirugía robótica autónoma, poker artificial, adversarial patches, robots que resuelven cubos de Rubik y hasta un predictor de la muerte.

2 Herbert S. Terrace Why Chimpanzees Can’t Learn Language and Only Humans Can Columbia University Press 2019.

En la década de 1970, el psicólogo conductista Herbert S. Terrace dirigió un experimento notable para ver si un chimpancé podía aprender a usar el lenguaje. Un joven simio, llamado «Nim Chimpsky» en un guiño al lingüista Noam Chomsky cuyas teorías desafió Terrace, fue criado por una familia en Nueva York e instruido en lenguaje de señas estadounidense.

Inicialmente, Terrace pensó que Nim podía crear oraciones, pero luego descubrió que los maestros de Nim inadvertidamente indujeron sus señas. Terrace concluyó que el Proyecto Nim falló, no porque Nim no pudiera crear oraciones, sino porque ni siquiera podía aprender palabras. El lenguaje es una cualidad humana única, e intentar encontrarlo en los animales es, en el mejor de los casos, una ilusión animalocéntrico. El fracaso del Proyecto Nim significa que no estábamos más cerca de entender de dónde viene el lenguaje que a mediados del siglo XIX, cuando se nos prohibió preguntarmos por su orígen.

En este libro, Terrace vuelve a visitar el Proyecto Nim para ofrecer una visión novedosa de los orígenes del lenguaje humano. En contraste con Noam Chomsky y sus críticos, Terrace sostiene que las palabras, tanto como la gramática, son las piedras angulares del lenguaje. Retratando la evolución humana y la psicología del desarrollo, muestra que la interacción no verbal es la base de la adquisición del lenguaje infantil, que conduce a las primeras palabras de un niño.

Al colocar palabras y conversaciones antes que la gramática, podemos, por primera vez, explicar la base evolutiva del lenguaje. Terrace argumenta que esta teoría explica la incapacidad de Nim para adquirir palabras y, más ampliamente, las diferencias entre la comunicación humana y animal. Por qué los chimpancés no pueden aprender el lenguaje y solo los humanos pueden es una declaración magistral de la naturaleza del lenguaje y lo que significa ser humano.

Este tremendo sablazo entierra cerca de 20 volúmenes y décadas durante las cuales me alegré sin cesar de las proezas de Washoe, Kim y KoKo usando lenguaje de señas, de Kanzi y sus fichas plásticas, y de la posibilidad de que los animales pudieran hablar en forma parecida a nosotros. Si estudios anteriores demostraban que los animales podían responder a preguntas pero no hacérselas, esta obra de Terrace revaloriza el contexto y las conversaciones y la comunicación no verbal -antes que la gramática en si- como predondicionantes del habla (exclusivamente) humana.

3 Stuart Russell Human Compatible: Artificial Intelligence and the Problem of Control. Viking, 2019.

En la imaginación popular, la inteligencia artificial sobrehumana es un maremoto inminente que amenaza no solo los trabajos y las relaciones humanas, sino la civilización misma. El conflicto entre humanos y máquinas es visto como inevitable y su resultado demasiado predecible.

Stuart Russell argumenta que este escenario puede evitarse, pero solo si repensamos la IA desde cero. Comienza explorando la idea de inteligencia en los humanos y en las máquinas. Describe los beneficios a corto plazo que podemos esperar, desde asistentes personales inteligentes hasta investigaciones científicas apalancadas, y describe los avances de la IA que aún tienen que suceder antes de llegar a la IA superhumana. También explica las formas en que los humanos ya estamos descubriendo el mal uso de la IA, desde armas letales autónomas hasta sabotajes virales.

Si se producen los avances previstos y surge la IA sobrehumana, habremos creado entidades mucho más poderosas que nosotros. ¿Cómo podemos asegurar que nunca, nunca, tengan poder sobre nosotros? Russell sugiere que podemos reconstruir la IA sobre una nueva base, diseñando máquinas para ser inherentemente inciertas acerca de las preferencias humanas que deben satisfacer. Tales máquinas serían humildes, altruistas y estarían comprometidas a perseguir nuestros objetivos, no los suyos. Esta nueva base nos permitiría crear máquinas que sean demostrablemente deferentes y beneficiosas.

Como muchos otros tecnohumanistas Russell es muy optimista acerca de nuestra capacidad de control, y relativamente ingenuo cuando de ponerle el cascabel al gato se trata. Si bien estamos a décadas sino siglos de distancia para que estos vaticinios se cumplan, el hecho de que la investigación en IA esté concentrada en mano de empresas, militares y gobiernos muchas veces inescrupulosos, pone en tela de cuestión a estas salvaguardas éticas, que son antes que nada una retórica previsible mas que una política científica rigurosa.

4 Adam Rutherford Humanimal: How Homo sapiens Became Nature’s Most Paradoxical Creature? A New Evolutionary History The Experiment, 2019

La teoría evolutiva ha establecido que los humanos somos animales: los Homo sapiens modernos somos primates que compartimos antepasados con monos y otros grandes simios. Nuestro genoma es 98 por ciento idéntico al de un chimpancé. Y sin embargo, nos consideramos excepcionales. ¿Lo somos?

Adam Rutherford explora la profunda paradoja del «animal humano». Al buscar respuestas en todo el reino animal, descubre que muchas cosas que alguna vez se consideraron exclusivamente humanas no lo son: en Australia, las aves rapaces han sido observadas iniciando incendios para dispersar presas; en Zambia, un chimpancé llamado Julie incluso comenzó una «moda» de usar hierba en una oreja.

No somos la única especie que se comunica, fabrica herramientas o tiene relaciones sexuales por razones distintas a la procreación. Pero hemos desarrollado una cultura mucho más compleja que cualquier otra que hayamos observado. ¿Por qué ha sucedido eso y qué dice de nosotros?

Humanimal es una nueva historia evolutiva, una síntesis de las últimas investigaciones sobre genética, sexo, migración y mucho más. Revela lo que nos hace animales de manera inequívoca, y también por qué somos verdaderamente extraordinarios.

La biología del conocimiento y la primatologia que en los años 60/70 daban sus primeros pasos se han visto enriquecidas por una catarata de descubrimientos, observaciones e invenciones que -curiosamente- en vez de pintar una grieta insuperable entre humanos y animales cada vez tiende puentes mas sutiles entre ellos y nosotros. Mientras en el mundo social la antinomia es la regla. Pero la distancia existe y no parece fácil de colmar.

5 Flynn Coleman A Human Algorithm: How Artificial Intelligence Is Redefining Who We Are. Counterpoint, 2019.

La Era de las Máquinas Inteligentes está acá, y estamos en un punto de inflexión. La proliferación de tecnologías vertiginosas, incluidas formas de inteligencia artificial similares a las de una nueva especie, nos llevará a enfrentar profundas preguntas sobre nosotros mismos. La era de la superioridad intelectual humana está terminando, y tenemos que planificar este cambio monumental.

Un algoritmo humano: cómo la inteligencia artificial está redefiniendo quiénes somos, examina el inmenso impacto que la tecnología inteligente tendrá en la humanidad. Estas máquinas, aunque desafían nuestras creencias personales y nuestro orden socioeconómico mundial, también tienen el potencial de transformar nuestra salud y bienestar, aliviar la pobreza y el sufrimiento, y revelar los misterios de la inteligencia y la conciencia.

La abogada internacional de derechos humanos Flynn Coleman argumenta hábilmente que es fundamental inculcar valores, ética y moral en nuestros robots, algoritmos y otras formas de IA. Igualmente importante, necesitamos desarrollar e implementar leyes, políticas y mecanismos de supervisión para protegernos de las amenazas insidiosas de la tecnología.

Para darnos cuenta del potencial trascendente de AI, Coleman aboga por invitar a un grupo diverso de voces a participar en el diseño de nuestras máquinas inteligentes, y usar nuestra imaginación moral para garantizar que los derechos humanos, la empatía y la equidad sean principios fundamentales de las tecnologías emergentes. En última instancia, un algoritmo humano es una llamada de atención para construir un futuro más humano y avanzar concienzudamente hacia una nueva frontera de nuestro propio diseño.

Como en el caso de Russell mas arriba, afloraron en los dos últimos años decenas de títulos que abogan por una ética de la inteligencia artificial, y nos aseguran que a través de un diseño multicultural del software que empoderará-mas-que-humamante a nuestros ingenios artificiales, las máquinas podrán ser tuneadas y adaptadas a nuestra necesidad de no-exterminio. Los antecedentes que tenemos en inteligencia artificiales particulares no son promisorios. El mandato filo-tecnológico de que si algo puede ser hecho debe ser hecho, conspira contra relativizaciones, disminuciones y subordinaciones. El problema es que en casos como éstos si la IA se independiza no hay vuelta atrás como ejemplos especulativos como Westworld, Ex-Machina o Trascendence demuestran.

6 Michael S A Graziano Rethinking Consciousness: A Scientific Theory of Subjective Experience. W. W. Norton & Company, 2019.

Concentrar su atención puede ayudar a un animal a encontrar comida o a huir de un depredador. También puede haber llevado a la aparición de la conciencia. Al seguir la evolución a lo largo de millones de años, Michael S. A. Graziano utiliza ejemplos del mundo natural para mostrar cómo las neuronas primero permitieron a los animales desarrollar formas simples de atención: recibir mensajes del entorno, priorizarlos y responder según sea necesario. Luego, algunos animales desarrollaron una atención encubierta, un enfoque mental itinerante que puede captar información independiente de dónde apuntan los sentidos, como escuchar sirenas a distancia o recordar un recuerdo.

Graziano sostiene que para monitorear y controlar esta atención especializada, el cerebro desarrolló un modelo simplificado: una autodescripción de dibujos animados que representa una esencia interna con capacidad de conocimiento y experiencia. En otras palabras, nuestra conciencia.

En este trabajo apuntalado por sus experimentos y el de otros científicos, Graziano explora de manera accesible cómo esta sensación de ser interno condujo a la empatía y nos convirtió en seres sociales. La teoría puede señalar el camino a los ingenieros para construir conciencia artificialmente, e incluso algún día tomar la conciencia natural de una persona y cargarla en una máquina para una vida futura digital. Graziano analiza cómo podría ser un futuro con conciencia artificial, incluidas las ventajas y los riesgos, y lo que la IA podría significar para nuestro futuro evolutivo.

Otra vez, mas deseo que factibilidad a corto plazo. La insistencia de “apilar” proezas tecnológicas con la ‘sensación” de que diseñar conciencia es mas una cuestión de cantidad que de calidad, da lugar a innumerables “tratados” filo-tecnológicos. Se puede complementar estas visiones con series de ciencia-ficción recientes entendidas como ficciones especulativas. Westworld es la mas recomedable al respecto. Y aún así el «misterio» de la conciencia sigue sin desvelarse

7 Carlos Moreira & David Fergusson The transHuman Code: How To Program Your Future. Greenleaf Book Group Press, 2019.

En The transHuman Code, Carlos Moreira & David Fergusson se preguntan: «¿Estamos construyendo un futuro mejor para la humanidad con la ayuda de una tecnología magnífica o, en cambio, estamos construyendo un futuro de tecnología mejor a expensas de la humanidad?» Según ellos debemos aprender a poner a la humanidad primero en lugar de quedar atrapada en la promesa del avance tecnológico. Los humanos hemos podido adaptarnos, transformarnos y comprometernos en cada situación que hemos enfrentado a lo largo de los siglos y hemos sido capaces de mantener el dominio. Debemos abordar las promesas de la tecnología con la misma adaptabilidad.

Según Moreira & Fergusson si comenzamos el diseño del futuro transhumano desde una perspectiva humana, asegurándonos de que la tecnología inspire la revolución o la evolución, entonces podremos asegurar que la humanidad continuará prosperando. El Código transhumano intenta situar a la humanidad en la tensión emergente entre un mundo controlado por humanos o por las máquinas. Moreira y Fergusson examinan cómo los humanos podemos mantener la singularidad y la humanidad en este mundo nuevo y valiente.

Temas recurrentes tratados mas arriba por Russell y Coleman muestran que el fantasma de lA nos está pisando los talones y que mas que deplorar la insuficiencia de la IA general que tenemos hoy, son muchos los científicos y técnicos que dan por descontado que mas a mediano que largo plano. la humanidad esta amenazada por sus propias potencias expresivas. Skynet está a la vuelta de la esquina y por si no tuviéramos suficiente con el cambio climático, las guerras comerciales, los neo-populismos y las apetencias imperiales de China y Rusia, la posibilidad de autocolonizarnos vía las máquinas (al peor estilo pastilla azul de Matrix) aparece con una frecuencia inusual. Algo se está incubando en esta renuncia y no es necesariamente para bien

8. Nigel Shadbolt & Roger Hampson The Digital Ape: How to Live (in Peace) with Smart Machines. Oxford University Press, 2019.

La revolución de las máquinas inteligentes está remodelando nuestras vidas y nuestras sociedades. Aquí, Sir Nigel Shadbolt y Roger Hampson disipan (o pretenden disipar) el terror, la confusión y los conceptos erróneos.

No estamos a punto de ser empujados por un ejército rebelde de robots superinteligentes de nuestra propia creación a la rebelión de los robots en Westworld. Estábamos usando herramientas antes de convertirnos en Homo sapiens, y continuaremos construyéndolos y dominándolos, sin importar cuán complicados se vuelvan. La forma en que ejerzamos ese control, en nuestra vida privada, en el empleo, en la política, y aprovechemos las maravillosas oportunidades que nos brindan, determinará nuestro futuro bienestar colectivo.

Capítulo por capítulo, The Digital Ape describe cómo nuestras elecciones y el uso y la adaptación de las herramientas que hemos creado pueden generar oportunidades para el medio ambiente (tanto construido como natural), la salud y nuestra seguridad. Shadbolt y Hampson aprovechan antecedentes históricos y conocimientos técnicos para ofrecernos una visión del futuro emocionante, en lugar de estresante.

Como siempre la opción optimista/pesimista excede la tapa y contratapa del volumen reseñado. Todas estas versiones de una IA artificial humanistamente correcta se estrellan contra los primeros contraejemplos (un coche de Tesla o de Uber que mata a un humano), la hybris tecnológica tan extendidamente examinada por Edward Tenner, que muestra que con tecnologías mucho menos poderosas siempre estamos a la vuelta de la esquina de una catástrofe (como Chernobyl). Curioso como la mente humana puede racionalizar cualquier situación apocalíptica endulzando los futuros.

9 Paul Davies The Demon in the Machine: How Hidden Webs of Information Are Solving the Mystery of Life. University of Chicago Press, 2018.

¿Cómo crea la vida orden a partir del caos? ¿Y qué es la vida, después de todo? El físico Paul Davies argumenta que para encontrar las respuestas, primero debemos responder una pregunta más profunda: ‘¿Qué es la información?’

Para comprender los orígenes y la naturaleza de la vida, Davies propone una visión radical de la biología que considera los fundamentos de la vida como similares a los circuitos y la electrónica, argumentando que la vida tal como la conocemos realmente debería considerarse un fenómeno de almacenamiento de información. En una inmersión profunda extraordinaria en la mecánica real.

Davies revela cómo los procesos biológicos, desde la fotosíntesis hasta las habilidades de navegación de las aves, dependen de la mecánica cuántica, y explora si la física cuántica podría ser la clave secreta de toda la vida en la Tierra. Animado y accesible, Demons in the Machine reduce complejos desarrollos interdisciplinarios para llevar a los lectores a un viaje revelador hacia el objetivo final de la ciencia: unificar todas las teorías de lo vivo y lo no vivo, para que la humanidad pueda finalmente entender su lugar. En el universo.

Desde las teorías del todo hasta formatos mas reduccionistas, desde el polémico ¿Qué es la Vida? de Schrodinger de 1944, hasta las diversas versiones de los automátas autoreproductores, son miríadas las obras que tratan de encontrar una base físico/química a la vida. De encontrarlas igual quedaría por entenderse cómo afloran las propiedades emergentes. Y en el caso de la conciencia el reduccionismo fisicalista es aún menos convincente. La apuesta por la simplicidad es fascinante e inevitable, pero su capacidad explicativa nos envuelve en dudas.

10 Margaret E. Morris Left to Our Own Devices: Outsmarting Smart Technology to Reclaim Our Relationships, Health, and Focus. The MIT Press, 2018.

Hay formas inesperadas en que las personas adaptan la tecnología para revalorizar lo que les importa, desde combatir a la policía con luces inteligentes hasta celebrar la transición de género con selfies.

Nos han advertido sobre los peligros psicológicos de la tecnología: distracción, dificultad para empatizar y pérdida de la capacidad (o deseo) de mantener una conversación. Pero nuestros dispositivos y datos están entretejidos en nuestras vidas. No podemos simplemente rechazarlos.

En cambio, argumenta Margaret Morris, necesitamos adaptar la tecnología de manera creativa a nuestras necesidades y valores. En Left to Our Own Devices, Morris ofrece ejemplos de individuos que aplican tecnologías de maneras inesperadas, usos que van más allá de los previstos por desarrolladores y diseñadores. Morris examina este tipo de trucos de vida personalizados, relatando las formas en que las personas han adaptado la tecnología para fortalecer la conexión social, mejorar el bienestar y afirmar la identidad.

Morris, psicóloga clínica y creadora de aplicaciones, muestra cómo las personas realmente usan la tecnología, basándose en entrevistas así como en investigaciones en informática y psicología. Mediante muchas otras adaptaciones «fuera de etiqueta» Morris postula a la tecnología no solo como una tentación frente a la que luchamos para resistirla, sino también como un aliado potencial al tratar de cuidarnos a nosotros mismos y a los demás. Las historias que cuenta Morris nos invitan a ser más intencionales y creativos cuando nos abandonamos a manos de la tecnología.

Los usos desviados, la contraproductividad que la tecnología impone y que los usuarios buscamos, eventualmente, revertir, cuestionan la inevitabilidad tecnológica pregonando por Kevin Kelly y los tecno-deterministas, y abre puertas a teorizar a las máquinas y a los programas como actantes en la teoría de actores/redes latourianas, abriendo paso a una política que cuestiona la alianza no menos naturalizada entre tecnología y libre empresa a ultranza. Condensada en las GAFA y en el endiosamiento infantil de Silicon Valley, otras derivas tecnosociales son posibles. Hay que volver a Ivan Illich y diseñar acorde.