En el desenlace final de la película "Némesis, Stark Trek número 10", el androide Data es destruido. El cuadro de mando del Entrepise brinda por su honor, recordándole como si de un humano se tratase, pero tendrá un sustituto, un nuevo Data.
Al comienzo de la historia, el Entreprise recupera de un planeta lejano los restos de un androide. Se llama B-4 y es idéntico a Data, pero una versión más antigua, tal vez un prototipo. B-4 será un personaje clave en la aventura que no quisiera desvelar. Salto a los minutos finales. Después de la desaparición de Data, el capitán Picard ordena reprogramar a B-4 para convertirlo en el nuevo Data. Inicialmente, el prototipo se expresa con tartamudez e inseguridad, unos pequeños tics demuestran que la adaptación y los ajustes de los recientes engramas requieren su tiempo.
El capitán Picard recibe en su despacho al nuevo tripulante en su despacho para darle la bienvenida y recordar al antiguo compañero. Esta es la conversación entre ellos:
Picard: - No sé si todo esto ha tenido sentido, pero quería que supiera que clase de hombre era (refiriéndose a Data). En su búsqueda por parecerse a nosotros, nos ayudó a ver qué significa "ser humano".
Data - Mi ... mi, mi hermano, no era humano.
P:- No. No lo era, pero su asombro, su curiosidad por todas las facetas de la naturaleza humana nos permitió a todos ver lo mejor de nosotros mismos. Él evolucionó, abrazó los cambios, porque siempre quiso ser mejor de lo que era.
D. - No... no lo logro entender.
P: - Espero que algún día lo entienda.
La pregunta nos asalta de inmediato. ¿Los androides y su inteligencia nos hará más humano?, ¿lo hará la Inteligencia Artificial?.
Similares dudas y planteamientos se pueden encontrar en el libro de José Ignacio Torre: "Etica para máquinas". Es un libro sencillo, ligero y fácil de leer. No pretende profundizar en los temas expuestos y así lo expresa el autor en la introducción. Quiere proponerlo como unas conversaciones en un recogido café otoñal o de cerveza durante una tarde veraniega: "se trata de una charla abierta de esas a los que a todos los gusta entregarnos con pasión"..."La reflexión compartida afina nuestro discurso" pero "... con medida y criterio".
La parte 1 y 2, "Maquinas sin alma" y "Máquinas que parecen inteligentes" nos muestra un recorrido histórico hasta el presente. Los últimos hitos corresponden a los Sistemas Expertos, Inteligencia Artificial, robots y el transhumanismo.
Las partes 3, 4 y 5 nos abren el camino hacia las incertidumbres futuras: "Ética para máquinas", "Máquinas que nos superarán" e "Imitar el alma". La conversación del capitán Picard con el nuevo Data se encuadra en los contenidos de la quinta parte del libro.
Abordar las cuestión del alma es compleja, escurridizo y escapa a las pretensiones del libro. Pero el autor destaca unas cualidades comunes que le "atribuyen filósofos, teólogos, humanistas" y se encuentra en todas las religiones. Incluso cualquier persona de la calle nos ofrece la misma imagen. "El alma es el origen de la bondad, el motor de hacer el bien, de ser generosos, benévolos, solidarios...", "el alma transforma a la especie humana". Si nos vamos al lado opuesto, el significado de "desalmado" es inhumano y cruel. Partiendo de esta premisa, el objetivo sería dotar a las máquinas de "de alma", algo que, expuesto así, de sopetón, povoca rechazo, burla, incredulidad o desconfianza. El fin sería llevar la relación hombre-máquina a una categoría superior. Esta convivencia entre humanos y máquinas es la que dice Picard sobre Data: "nos ayudó a ser humanos", "a ver lo mejor de nosotros mismos".
Volviendo al término "desalmado", se refiere a una persona sin conciencia del bien y del mal. Dotar a las máquinas de alma, es también ¿incorporar conciencia?. Según Latorre, esta distinción entre el bien y el mal que debe regir las acciones de la Inteligencia Artificial y sus consecuencias, es el punto de reflexión en el cual estamos inmersos actualmente. Recordemos el dilema sobre la conducción de coches autónomos, (ya con entrada en la propia Wikipedia), dada su importancia en esta tecnología. Si estamos inmersos en este dilema, "¿cuántos más se nos presentarán?". Existen muchos y debe existir una base ética que ayude, así lo plantea la Latorre.
El problema, insiste en ello Latorre, como sociedad es que deberíamos reflexionar detenidamente sobre las atribuciones éticas que tendríamos incorporar a la Intenligencia Artifial, pero mientras tanto, las grandes corporaciones, los gobiernos, siguen desarrollando sistemas dirigidos hacia sus propios intereses, que puede que no coincidan con el resto de la sociedad como conjunto o con las personas como individuos.
En fin, el debate es profundo y complejo. El deslumbrón novedoso con el que despertamos cada día esconde entre las sombras consecuencias que nos afectarán en el futuro y tal vez no sean fácilmente reparables. El libro de Latorre es una buena guía para adentrarse en todos los recovecos en que se encuentra el desarrollo e implantación de la Intenligencia Artificial.
Uno de los hitos futuros de la IA es la irrupción de la Singularidad. Será el momento en el que la IA prescindirá de los humanos. Ella será capaz de desarrollarse, fabricarse, modificarse y mejorarse, sin intervención de ingenieros, técnicos, administrativos, transportistas... Si Data es tan inteligente, ¿por qué sigue sometido a las órdenes del capitán Picard?, ¿no es capaz de gobernar la nave mejor que los humanos?, ¿no habrá llegado al punto de la singularidad?.
Como remate final, aquí unas conferencias de Latorre en la presentación de su libro y otros enlaces de interés.
Conferencia en la Fundación Telefónica.
Presentación del libro. José Ignacio Latorre. Ética para máquinas.
Tech Society. José Ignacio Latorre.
Tech & Society: José Ignacio Latorre. "Ética para máquinas"
Tech & Society: Entrevista a José Ignacio Latorre
Conferencia completa de José Ignacio Latorre en el Club Ultima Hora
José Ignacio Latorre: «No podemos dejar en manos de las corporaciones la ética de las máquinas»
Conferencia en el Ágora con José Ignacio Latorre y David Casacuberta. The Valley
Entrevistas al autor
Entrevista en TVE a J.I. Latorre, autor de Ética para máquinas
Otros temas interesantes relacionados con el libro.
Juan Carlos F. Galindo ¿Sirve de algo hablar ahora de la ética de las máquinas inteligentes? "Muy Interesante"
Red de investigaciones filosóficas José Sanmartín Esplugues. Universidad Católica de Valenicia San Vicente Mártir.
Reseñas de libros de filosofía
María Díaz del Rey: "J. I. Latorre (2019). Ética para máquinas. Barcelona: Ariel"
La Comisión Europea sobre la IA
"Directrices éticas para una IA fiable". Autor(es) colectivo(s): Dirección General de Redes de Comunicación, Contenido y Tecnologías (Comisión Europea)
Foro Próximo Futuro
Etica y Tecnología, ciclo de debates.
Algunos artículos en la revista Telos
Antonio Orbe "Inteligencia Artificial y futuro próximo"
Revista Telos nº 108. Cuaderno central: "Humano digital"
Antonio Diéguez: "Transhumanismo, propuesta y límites"
Juan M. Zafra. Amber Case: "Los Robots sirven para que podamos ser más humanos"
Revista Telos nº 109. Cuaderno central: "Tecnoética"
Sobre Star Trek: Némesis y B-4
L. F. Real
No hay comentarios:
Publicar un comentario