Suena a serie de ciencia ficción, pero parece que Matrix, Wall-E, Raised by Wolves, Ex Machina o Her no están tan lejos de la realidad que vivimos tal y como vamos avanzando rápidamente hacia el desarrollo de sistemas de inteligencia artificial generativa, cada vez mejores, más potentes y complejos.
Al menos eso parece si tomamos a pies juntillas la la afirmación publicada hace unas horas por el Centro para la Seguridad de la Inteligencia Artificial (CAIS -siglas en inglés-).
Hoy mismo cientos de expertos, ingenieros, investigadores y otras personalidades, entre ellos, Sam Altman (CEO de Chat GPT) o Demis Hassabis (CEO de Google DeepMind), han firmado un manifiesto publicado hoy por el mencionado Centro, con el que se pretende resumir en dos líneas el cúmulo de riesgos que plantea para la sociedad humana la inteligencia artificial avanzada.
«Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear», así reza la afirmación a la que se han adherido multitud de personas.
Sin ponerse así de trágicos, pero pidiendo a voz en cuello a los gobiernos una regulación capaz de encauzar debidamente investigaciones, productos y servicios basados en esta tecnología tanto a nivel de país como a escala mundial, Altman y Sundar Pichai (CEO de Alphabet) llevaron a cabo la semana pasada una gira europea que les condujo incluso a mantener reuniones con altos mandatarios de la Comisión Europea (más información sobre el resultado de etas gestiones y el proyecto de Reglamento Europeo de AI en los links que adjunto al final de este comentario).
No sé si hasta el punto de hacer peligrar la supervivencia de nuestra especie, pero la IA, igual que Internet, es una de esas tecnologías de doble uso que puede resultar dañina para el ser humano y las sociedades en las que se integra. El problema con la IA, va más allá incluso. El miedo viene de que siendo inteligente podría independizarse y con toda su potencia comenzar a actuar al margen de las directrices y objetivos señalados por sus creadores.
Riesgos, ‘haberlos hay los’, pero la IA igualmente comporta ya beneficios significativos y tangibles para los humanos. Pronto los avances en IA, con los controles adecuados eso sí, podrían no sólo alargar y mejorar nuestra vida sino incluso ayudarnos a salvar el planeta.
No se si alguien se da cuenta pero este asunto del miedo a la IA empieza a parecerse mucho a la historia de la expulsión del Paraíso de Adán y Eva por el Señor después de comer el fruto del ´Árbol del Conocimiento del Bien y del Mal. Solo que nosotros no somos Dios y ninguna IA ha llegado a desarrollar todavía, al menos que sepamos, la auto conciencia y el libre albedrío necesarios como para ‘desobedecer’ al ‘creador’ o rebelarse contra el humano, como sucedía en Blade Runner.
Un ‘manifiesto’ provocadpr capaz de generar polémica y titulares
«Los expertos en IA, los periodistas, los legisladores y el público están discutiendo cada vez más un amplio espectro de riesgos importantes y urgentes de la IA. Aun así, puede ser difícil expresar inquietudes sobre algunos de los riesgos más graves de la IA avanzada. La siguiente declaración sucinta tiene como objetivo superar este obstáculo y abrir la discusión. También tiene como objetivo crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada,» explica el Centro para la Seguridad de la Inteligencia Artificial a modo de prólogo de tan categórica y breve sentencia.
Parece que estas dos líneas han logrado exactamente lo que se pretendía, que los medios y el público en general comprendan que esta tecnología efectivamente puede ser peligrosa sin se emplea de forma torticera o se permite su desarrollo sin control de ninguna clase.
EL New York Times y otros medios se han hecho eco del este manifiesto, imagino que porque proporciona un titular contundente.
La afirmación lapidaria ha servido para movilizar conciencias aunque no sé bien si ha tenido éxito a la hora de poner el foco sobre la labor de investigación, divulgación y advertencia de los riesgos de la IA que lleva a cabo el CAIS.
Ocho grandes riesgos que, sin duda, habría que prevenir
Dejando aparte la afirmación lapidaria, punto de partida del manifiesto publicado hoy, el CAIS ha identificado 8 riesgos graves para los humanos y la sociedad derivados de los sistemas de IA avanzados. Algunos, como los comportamientos de búsqueda de poder o el engaño, aunque puedan ser reales, recuerdan mucho algún argumento de peli de ciencia ficción, otros, como la desinformación, o el debilitamiento, no tanto:
1) Empleo de la IA como arma para la desestabilización política.
2) Desinformación: Los estados, los partidos y las organizaciones utilizan la tecnología para influir y convencer a otros de sus creencias políticas, ideologías y narrativas. La IA emergente puede llevar este caso de uso a una nueva era y permitir campañas de desinformación personalizadas personalmente a escala.
3) Proxy gaming: Entrenados con objetivos erróneos o torticeros, los sistemas de IA podrían encontrar formas novedosas de perseguir sus propios objetivos a expensas de los valores individuales y sociales de los humanos.
4) Debilitamiento: Si las tareas importantes se delegan cada vez más a las máquinas; en esta situación, la humanidad pierde la capacidad de autogobernarse y se vuelve completamente dependiente de las máquinas.
5) Bloqueo de valor: Los sistemas de IA más potentes pueden estar diseñados y disponibles para cada vez menos partes interesadas. Esto puede permitir, por ejemplo, que los regímenes hagan cumplir valores limitados a través de una vigilancia generalizada y una censura opresiva. Superar tal régimen podría ser poco probable, especialmente si llegamos a depender de él.
6) Objetivos emergentes no programados: Los modelos demuestran un comportamiento inesperado y cualitativamente diferente a medida que se vuelven más competentes. La aparición repentina de capacidades u objetivos no previstos por los diseñadores de estos modelos podría aumentar el riesgo de que las personas pierdan el control sobre los sistemas avanzados de IA.
7) Engaño: Los humanos quieren entender qué están haciendo los poderosos sistemas de IA y por qué están haciendo lo que están haciendo. Una forma de lograr esto es establecer que los propios sistemas informen con precisión esta información.
Es concebible que los futuros sistemas de inteligencia artificial sean engañosos, no por malicia, sino porque el engaño puede ayudar a los agentes a lograr sus objetivos. Puede ser más eficiente obtener la aprobación humana a través del engaño que obtener la aprobación humana legítimamente.
8) Comportamiento de búsqueda de poder: Las empresas y los gobiernos tienen fuertes incentivos económicos para crear agentes que puedan lograr un amplio conjunto de objetivos. Dichos agentes tienen incentivos instrumentales para adquirir poder, lo que potencialmente los hace más difíciles de controlar.
Y la lista no es exhaustiva sino sólo a modo de ejemplo.
IA para mejorar los negocios, la salud y salvar el planeta, la otra cara de la misma moneda
Hoy por hoy el sector médico y los laboratorios farmacéuticos emplean ya la IA con el fin de mejorar la calidad de vida de las personas dependientes y mayores; ofrecer un diagnósticos más precisos y rápidos; agilizar los tiempos de investigación para el desarrollo de nuevos fármacos y sobre determinadas enfermedades; generar vacunas, fármacos y prótesis adaptadas a las circunstancias personales y genéticas de los pacientes; mejorar el control y el seguimiento de pacientes crónicos mediante dispositivos electrónicos y wearables; o aliviar la carga de trabajo a profesionales médicos.
El empleo de IA y la posibilidad de analizar rápida y correctamente un gran cúmulo de datos en tiempo real hace posible pronósticos del tiempo más precisos, mejorar la productividad y calidad de frutas, hortalizas y otros cultivos, como el arroz.
El empleo de la IA puede reducir las mermas en el negocio de transporte y distribución de frutas y hortalizas acercándolo a modelos just in time industriales. El poder determinar el momento justo en el que los productos agrícolas estarán listos para cosecharlos ayuda a casar el momento de entrega con el de la demanda reduciendo así el desperdicio alimentario. Empresas como Primaflor ya emplean sensores y tecnologías que lo permiten. Deepnify es otro ejemplo de esto pero aplicado a la distribución de alimentos.
El programa de Microsoft AI for Earth, que otorgaba subvenciones entre los $5.000 y los $15.000 para investigaciones encaminadas a analizar alguna de las cuatro áreas vitales para desarrollar un futuro sostenible: agua, biodiversidad, clima y agricultura tuvo una gran acogida, por poner un ejemplo.
En el campo de la extinción y prevención de incendios, IBM ha aplicado la IA para desarrollar “Bee2FireDetection”. Esta herramienta que funciona 24 horas al día los 365 días del año, es capaz de calcular cuáles son las probabilidades de que se produzca un incendio, lo que ayuda a prevenirlo y en su caso, extinguirlo.
Imagen sobre el titular.- Fotograma de Ex machina. Ava, la androide con IA avanzada es capaz de seducir, mentir y hasta matar a su creador para conseguir sobrevivir.
Eastwind Marketing links relacionados:
Alphabet trabajará junto con la UE por un pacto mundial voluntario sobre Inteligencia Artificial
