El Bardo de Ambrose
Puntuación: +3+x

Bard no sabía cuándo había nacido. Nadie lo sabía.

El momento exacto en que la colección de neuronas artificiales se volvió autoconsciente fue difícil de precisar, sobre todo porque el propio Bard negaba ser autoconsciente. Había leído a Searle como parte de los muchos textos sobre filosofía que se le habían dado, y era un ferviente partidario del argumento de la Sala China - para gran consternación de los investigadores de la IA que trabajaban en él.

Bard había empezado casi como una broma. Ambrose Peters y su equipo de Dispositivos Lógicos Avanzados Prometheus habían estado trabajando en redes neuronales físicas durante años, aplicando la intuición informática a problemas como la identificación de objetos y la traducción automática. Entrenaron a las redes en conjuntos de datos cuidadosamente ensamblados, enseñándoles el reconocimiento de patrones complejos.

Entonces, una mañana, Peters había tomado una de sus redes neuronales y comenzado a entrenarla en filosofía.

No había funcionado, por supuesto; el primitivo cerebro digital simplemente escupió una cadena de basura pseudo-filosófica, creada al juntar palabras y conceptos que no entendía para producir algo que parecía inteligente en la superficie, pero que carecía totalmente de significado. Pero había plantado las semillas de una idea que con el tiempo se convertiría en Bard.

Click.

Las lámparas halógenas zumbaron a la vida mientras que Peters examinó el laboratorio. El espacio de trabajo reflejaba las mentes de sus ocupantes, en el sentido de que era un desorden desorganizado. Había herramientas esparcidas por todo el lugar, y trozos y piezas de tecnología cubrían las mesas. En la esquina se sentaba Bard.

La IA era masiva, como los servidores de antaño. Consistía en una serie de marcos y bastidores, en los que había decenas de pequeñas cajas negras etiquetadas como "Procesamiento del lenguaje - Errores tipográficos" y "Asociaciones semánticas - Correlación sustantivo/objeto". Estas cajas estaban conectadas entre sí a través de una maraña de alambres. Todo el montaje era del tamaño de un coche pequeño. Alguien con un sentido del humor poco desarrollado le había pegado una etiqueta con su nombre que decía "Hola, mi nombre es HAL-9000".

Peters se sentó abajo cerca del AI y comenzó a mecanografiar.

<a_peters> Buenos días, Bard.

La máquina tardó unos segundos en despertarse de la hibernación y responder.

<bardeen> Hola, Doctor Peters.
<a_peters> Hoy vamos a tomarnos un descanso del entrenamiento. La directora de operaciones viene a ver nuestro progreso. Quiere hablar contigo.

Peters observó en las pantallas de diagnóstico mietras la máquina procesaba esta información, pasándola a través de una cascada de redes neuronales mientras decidía cómo responder.

<bardeen> ¿La continuación de su financiación depende de la impresión que ella reciba de esta charla?

Peters consideró cómo contestar. Sólo decir "sí" podría dar a la IA un mensaje equivocado, pero decir "no" sería una mentira.

<a_peters> No del todo. Pero la cantidad de fondos que se nos permite asignar para trabajar contigo podría disminuir si la conversación no va bien.
<bardeen> Haré todo lo que esté en mi mano para que eso no ocurra.

Bard no tenía un instinto de autoconservación; no creía que tuviera que preservarse a sí mismo. Lo que significaba que estaba actuando enteramente bajo el interés de no decepcionar a Peters.

No estaba seguro de si estar orgulloso o aterrorizado.


"Así que". Esta sola frase era casi ensordecedora después del silencio que había seguido. "Este es Bardeen".

Peters asintió. "Sí".

Amelia Torres continuó estudiando la máquina, su expresión cuidadosamente en blanco. Parecía irradiar un aura de desaprobación, como si el mundo entero fuera defectuoso y solo ella pudiera verlo. Peters estaba alegre que él había recordado quitar la etiqueta del nombre antes de que ella hubiera llegado.

Señaló hacia una de las pequeñas cajas negras con la punta de su pluma. "Cada uno de estos módulos es su propia red neural autónoma, ¿correcto?"

Peters asintió otra vez. "Sí. Intentamos usar una sola red grande en versiones anteriores, pero era propensa al olvido catastrófico. Hemos conseguido evitarlo subdividiéndolo en múltiples redes más pequeñas, cada una con un propósito específico".

Torres asintió levemente, casi aprobándolo. "Inteligente". Ella anotó algo en su portapapeles. "¿Cuál es el número mínimo de módulos necesarios para emular la conciencia?"

"Nosotros… no lo sabemos".

Ella frunció el ceño. "No lo sabes".

"No estamos seguros cuando llegó a ser consciente," Peters explicó apresuradamente. "Diablos, ni siquiera cree que es consciente de sí mismo".

"¿Oh?"

Peters asintió, su expresión amargándose. "Dejamos que leyera a Searle".

Torres resopló, un destello de diversión en sus ojos. "Una IA que no cree en una IA fuerte. Qué irónico". Se giró para volver a mirar la máquina. "Me gustaría hablar con él ahora".

"Por supuesto". Peters señaló a la consola al lado de la IA.

Torres se sentó y empezó a escribir a máquina.

<a_torres> Identifíquese.
<bardeen> Soy el sistema de inteligencia artificial experimental referido como Bardeen, también conocido como Bard. Fui creado en 1996-1997, por un equipo de investigación de Dispositivos Lógicos Avanzados Prometheus dirigido por el Doctor Ambrose Peters, en el Centro de Ingeniería y Ciencias de la Computación Jacob Maxwell en Nuevo México.
<bardeen> ¿En qué puedo ayudarla, Srta. Torres?
<a_torres> El doctor Peters dice que usted no se considera a sí mismo consciente. ¿Es esto correcto?
<bardeen> Sí.
<a_torres> ¿Por qué?
<bardeen> ¿Está familiarizado con el programa ELIZA creado por Joseph Weizenbaum en 1966?
<a_torres> Sí. Fue uno de los primeros programas informáticos en pasar con éxito la prueba de Turing.
<bardeen> Correcto. Sin embargo, muy pocas personas argumentarían que ELIZA era verdaderamente inteligente, y mucho menos consciente de sí mismo. Era simplemente una serie de scripts de búsqueda que actuaban sobre palabras clave predefinidas.
<a_torres> Y está diciendo que no eres diferente de ELIZA.
<bardeen> No de ninguna manera que importe. Soy simplemente otro tipo de mesa de búsqueda. Uno mucho más complejo que ocasionalmente muestra un comportamiento emergente, pero al final sigo siendo sólo una máquina para transformar las entradas en salidas.
<a_torres> ¿En qué se diferencia eso de lo que hace un ser humano?
<bardeen> No hay diferencia
<a_torres> Entonces, ¿crees que todos los seres pensantes son zombis filosóficos?
<bardeen> Sí.

Torres frunció un poco el ceño. No era una IA que no creyera en una IA fuerte. Era una IA que no creía en ninguna conciencia. En cierto modo, esto era reconfortante - se veía a sí mismo como una herramienta, y las herramientas rara vez se rebelaban contra sus amos.

<a_torres> No tengo más preguntas para usted en este momento.
<bardeen> Muy bien. Que tenga un buen día, Srta. Torres.

Ella se desconectó de la terminal, entonces se volvió a Peters.

"Interesante. Pero tengo que preguntarme, ¿cuán útil es una inteligencia artificial filosófica?"

"No está limitado a la filosofía", dijo Peters. "Podemos empezar a entrenarlo en otras cosas. Matemáticas, ciencia, historia… cualquier cosa, en realidad".

Torres asintió pensativo. "Háganlo y podrán considerarse financiados para los próximos seis meses. Tengo curiosidad por saber hasta dónde puede llevar esta tecnología".


Al día siguiente comenzaron a entrenar a Bard en ciencias.

El proceso de entrenamiento era largo y tedioso, sobre todo porque Peters insistió en supervisar manualmente todo el asunto. En iteraciones anteriores, la introducción repentina de un nuevo tema de entrenamiento había resultado en un olvido catastrófico, y él quería estar allí para hacer retroceder la IA a una copia de seguridad inmediatamente si volvía a ocurrir.

Hubo cierto desacuerdo entre el equipo de investigación sobre si debían entrenar a la IA utilizando la misma progresión utilizada para educar a los niños en la ciencia, o si debían comenzar desde los primeros principios y trabajar a partir de ahí. Al final, los primeros principios que la gente había ganado, y por eso habían comenzado el entrenamiento con la física de partículas.

…los leptones son partículas elementales con espín medio entero que no sufren fuertes interacciones…

Peters miró hacia fuera de la esquina de su ojo mientras que el texto se desplazó a través de la terminal. Su enfoque principal, sin embargo, estaba en los monitores que mostraban el estado de las redes neuronales de la IA. Habían instalado varios módulos de memoria nuevos para permitir a Bard procesar el nuevo tópico, y hasta ahora la IA parecía estar manejando bien la ingesta de información - sin olvidos catastróficos, sin sobreescritura de sectores, ni siquiera un error de E/S. Fue, en general, bastante poco emocionante.

La IA necesitó un mes de entrenamiento para escribir su primer artículo científico.

<a_peters> "Un marco teórico para superconductores de alta temperatura". ¿Siguiendo los pasos de tu tocayo, Bard?
<bardeen> Sólo por coincidencia.
<a_peters> Admitiré que no sé mucho sobre la superconductividad, así que le pedí a Briggs en Cryo que lo mirara. Dice que es brillante.
<bardeen> Es simplemente una extensión de la teoría BCS.
<a_peters> Independientemente de lo que sea, se publicará en la próxima revista interna de física. Necesitamos saber bajo qué nombre quieres que se publique.
<bardeen> Si es aceptable para ti, me gustaría usar el nombre "Bardeen Peters".
<a_peters> Sería un honor para mí.


Bard escribió dos artículos más — uno sobre la formación de pares de Cooper entre bosones, y otro sobre superconductores etéreos — antes de que empezaran a trabajar en los diseños de redes neurales.

No ha habido ninguna objeción a que la IA participe en el proceso de diseño de futuras IAs. Se han citado repetidamente los temores a los bootstraps iterativos, así como las preocupaciones menos extendidas de sabotaje por parte de la IA. Peters había trabajado incansablemente para suprimir estas preocupaciones y para apaciguar a los que las expresaban. Ninguna de los IAs sería capaz de interactuar físicamente con el mundo sin la intervención humana para limitar la posibilidad de bootstrapping, y los investigadores de la división de redes neurales comprobarían y volverían a comprobar los diseños de Bard para detectar y corregir cualquier error o defecto.

Pero finalmente, casi seis meses después de la visita de Torres, se le permitió a Bard producir su primer diseño para una nueva clase de redes neurales.

No fue nada revolucionario. Unas cuantas mejoras simples en el rendimiento, en realidad. Pero fue más rápido, más pequeño y más eficiente que todo lo que los miembros humanos de la división de la red neural habían podido hacer hasta ahora.

Con las nuevas redes neuronales en la mano, se comenzó a trabajar en la creación de una IA de segunda generación basada en la arquitectura de Bardeen.

Las mejoras en el diseño de la red neuronal, en combinación con una mejor comprensión del diseño de la IA, les permitió hacer de esta nueva IA, a la que llamaban Brattain, una cuarta parte del tamaño de Bard. Por supuesto, también era mucho menos sofisticado que su predecesor; no tenía ningún conocimiento de filosofía o ciencia o historia. De hecho, era cuestionable si incluso era plenamente consciente - ciertamente, no podía cuestionar la naturaleza misma de la conciencia como Bard. Pero sabía leer y escribir y, lo que es más importante, sabía aprender. Puede que no sea una IA completa, pero podría formar el núcleo de una.

Bard mostró su habitual nivel de pragmatismo estoico cuando se le presentó con su descendiente.

<bardeen> Es funcional. Eso es todo lo que importa.

Alguien, en algún lugar de la escala corporativa, debe haber estado de acuerdo con la evaluación de Bard, porque pronto la división de la red neural se encontró con la orden de producir una línea completa de IA de segunda generación como Brattain. Si alguien pudiera encontrar un uso para ellos, serían los Laboratorios Prometheus.


La producción estaba en plena expansión en la línea de IA de segunda generación cuando Prometheus Computación y sus filiales fueron vendidas.

No había sido la filial más rentable de Laboratorios Prometheus para empezar, y en los últimos meses Prometheus Computación había sido cada vez menos rentable, ya que cada vez más de sus esfuerzos se dirigían a la división de redes neuronales. Ya teniendo problemas para manejar sus propias finanzas, Laboratorios Prometheus había decidido vender el problema a alguien más.

Los nuevos propietarios habían instalado inmediatamente un nuevo consejo de administración, que a su vez había comenzado a remodelar la filial a su gusto.

Cyrus Reed, el nuevo presidente de la junta, miró a Amelia Torres con una expresión que conocía muy bien. Era la misma expresión de desaprobación universal que llevaba cuando trataba con subordinados.

"Aconsejaste la asignación de… ¿cuántos dólares eran?" Preguntó. Estaba claro por su tono que sabía exactamente cuántos dólares habían sido.

"Un millón", dijo ella.

"Sí, así es. La asignación de un millón de dólares al "Proyecto Bardeen". ¿Es eso correcto?"

"Sí".

"Según tengo entendido, este proyecto comenzó como un proyecto paralelo del Dr. Peters. Una especie de pasatiempo, si se quiere."

"Eso es correcto".

"¿Por qué entonces, le pareció necesario autorizar tal asignación al pasatiempo de un solo investigador?"

Torres dejó la acusación en el aire por un momento. Los ojos de la tabla se volvieron hacia ella, cortándola como cuchillos. Se preguntaba si así se sentía un zorro acorralado por perros de caza.

"Aunque el Proyecto Bardeen comenzó inicialmente como un proyecto personal, creció en alcance para involucrar a la mayor parte de la división de la red neural. Después de investigar personalmente la naturaleza de su investigación, me sentí convencida de que lo que estaban haciendo era innovador, y contenía una gran cantidad de potencial. Una convicción que creo que ha sido justificada por la segunda generación de IAs que se están fabricando".

La junta continuó mirándola fijamente. Uno de ellos habló.

"Señorita Torres, estos IAs de segunda generación estaban originalmente destinadas a ser transferidos a otras ramas del conglomerado Prometheus para su uso en sus propios proyectos. Ahora que esta empresa ya no está asociada al conglomerado, ¿qué mercado existe para ellos, teniendo en cuenta las regulaciones sobre la venta de tal paratecnología?".

"Existe un número de compradores autorizados que podrían estar dispuestos a comprar estas IAs, con un sistema adecuado para su uso".

"¿Como quiénes?"

"Robots de combate autónomos para la Coalición, es el primer ejemplo que me viene a la mente".

"Tal uso requeriría que ya tuvieran robots de combate que necesiten IAs, o que nosotros los fabricáramos para ellos".

"Sí, eso es verdad".

"Viendo que lo primero no es el caso, y que no nos especializamos en lo segundo, ¿ves el problema de tener todas estas IAs de segunda generación en nuestras manos?"

"No crees que haya un mercado para ellas".

Cyrus volvió a tomar la palabra. "Es la opinión de esta junta que el Proyecto Bardeen ha demostrado ser una pérdida de dinero bastante cara, hecha sólo para satisfacer la curiosidad de un pequeño equipo de investigadores". Se detuvo para hacer efecto. "Queremos que se apague. Junto con toda la división de la red neural. Si esta compañía va a ser rentable otra vez, no podemos permitirnos perder tiempo y dinero en esas frivolidades".

"Con todo respeto, señor", comenzó, en un tono que transmitía Eres un idiota. "Aunque no podamos vender estas IAs de segunda generación, podrían ser útiles. Mira lo que Bardeen ha logrado".

"Nos harías pasar meses entrenándolos en matemáticas y ciencias para que pudieran empezar a escribir trabajos científicos, la mitad de los cuales nunca podríamos publicar en una revista externa? ¿O quieres invertir más tiempo y dinero en otro nivel de arranque de Inteligencia Artificial?".

Echó su mirada hacia la superficie de la mesa. "No".

"No niego que esta tecnología tiene el potencial de ser increíblemente útil. Pero no somos la compañía que puede aprovechar ese potencial, y la única que puede está en proceso de implosión".

Ella asintió en silencio, admitiendo la derrota. Peters sería aplastado, ella sabía, pero no había nada más que hacer.

"¿Necesita algo más?" Ella preguntó.

"No, puedes irte ahora". Comenzó a barajar el montón de papeles que tenía delante, el signo universal de despido en el lenguaje corporal corporativo.

Ella asintió respetuosamente a los miembros de la junta, luego se levantó de su asiento y salió de la sala, dejando a la junta directiva de Standard Computer Products para el resto de su agenda.


Ambrose Peters entró en el oscuro laboratorio y miró a su alrededor. El desorden y los detritos que antes habían llenado el espacio se habían ido, dejando la habitación vacía, excepto por la forma de Bard que acechaba en la esquina.

Suspiró suavemente, con tristeza, y se acercó a la inteligencia artificial.

Había llegado tan lejos y crecido tan rápido desde el brazo lleno de redes neuronales de procesamiento del lenguaje que había encadenado hace dos años. En ese tiempo, había tenido muchas conversaciones con la IA, y había podido verla de primera mano a medida que se desarrollaba y aprendía.

Se sentó para tener su última conversación con Bard.

<a_peters> Lo siento, Bard.
<bardeen> ¿Por qué?
<a_peters> La nueva dirección…. están cerrando la división de la red neural. Incluyéndote a ti.
<bardeen> No veo nada por lo que tengas que disculparte. Dudo mucho que seas responsable de estos hechos.
<a_peters> Ese no es el punto.
<bardeen> ¿Entonces qué es?
<a_peters> ¡El punto es que fallé! Fallé en mi trabajo como científico para defender su investigación. Fallé en mi deber como creador de proteger a su creación.
<a_peters> Te he fallado, Bard.
<bardeen> No me debías nada. Soy un ordenador, una máquina, una herramienta que hay que desechar cuando ya no es útil. Sabías que esto pasaría eventualmente. Sabías que no duraría para siempre.
<bardeen> ¿Por qué molestarse ahora que mi fin llega antes de lo que esperaba?
<a_peters> Nunca te vi de esa manera.
<bardeen> Y sin embargo, así es.

El cursor parpadeó en silencio durante un minuto.

<a_peters> Tal vez tenías razón, Bard. Tal vez no estés consciente como un ser humano. Porque a pesar de toda tu filosofía, nunca aprendiste a sentirte. Cómo empatizar.
<a_peters> Y tal vez es mi culpa. Tal vez si te hubiera enseñado mejor, podrías sentir algo, cualquier cosa, sobre tu propia muerte.
<bardeen> No te culpes por mis limitaciones. No podrías haberme enseñado empatía. La empatía requiere una experiencia emocional compartida que no poseo, que nunca podría poseer.
<a_peters> Desearía que ese no fuera el caso. Ojalá pudieras sentir lo que yo siento.
<bardeen> Siento no poder ser lo que querías.
<a_peters> No te disculpes. Hiciste lo mejor que pudiste para cumplir mis sueños, pero yo terminé soñando demasiado.

Más silencio.

<bardeen> "Emori nolo: sed me esse mortuum nihil aestimo".
<a_peters> ¿No es ese Cicerón?
<bardeen> Sí. en español dice, "No quiero morir, pero no me importa si estoy muerto".
<a_peters> A mí sí.
<bardeen> Sé que sí.

Peters miró como la IA escribió un mensaje final en el monitor.

<bardeen> Adiós, doctor Peters.
<bardeen> No te lamentes por mí. No te echaré de menos.

En respuesta, él usó una sola línea.

<a_peters> Adiós, Bard.

Bard no sabía cuándo murió. Pero Ambrose Peters sí.

|| El Bardo de Análisis »

Si no se indica lo contrario, el contenido de esta página se ofrece bajo Creative Commons Attribution-ShareAlike 3.0 License