<\/p>\n\n\n\n
\u00abLos expertos en IA, los periodistas, los legisladores y el p\u00fablico est\u00e1n discutiendo cada vez m\u00e1s un amplio espectro de riesgos importantes y urgentes de la IA. Aun as\u00ed, puede ser dif\u00edcil expresar inquietudes sobre algunos de los riesgos m\u00e1s graves de la IA avanzada. La siguiente declaraci\u00f3n sucinta tiene como objetivo superar este obst\u00e1culo y abrir la discusi\u00f3n. Tambi\u00e9n tiene como objetivo crear un conocimiento com\u00fan del creciente n\u00famero de expertos y figuras p\u00fablicas que tambi\u00e9n toman en serio algunos de los riesgos m\u00e1s graves de la IA avanzada,\u00bb explica el Centro para la Seguridad de la Inteligencia Artificial a modo de pr\u00f3logo de tan categ\u00f3rica y breve sentencia.<\/p>\n\n\n\n Parece que estas dos l\u00edneas han logrado exactamente lo que se pretend\u00eda, que los medios y el p\u00fablico en general comprendan que esta tecnolog\u00eda efectivamente puede ser peligrosa sin se emplea de forma torticera o se permite su desarrollo sin control de ninguna clase. <\/p>\n\n\n\n Dejando aparte la afirmaci\u00f3n lapidaria, punto de partida del manifiesto publicado hoy, el CAIS ha identificado 8 riesgos graves para los humanos y la sociedad derivados de los sistemas de IA avanzados. Algunos, como los comportamientos de b\u00fasqueda de poder o el enga\u00f1o, aunque puedan ser reales, recuerdan mucho alg\u00fan argumento de peli de ciencia ficci\u00f3n, otros, como la desinformaci\u00f3n, o el debilitamiento, no tanto: 2) Desinformaci\u00f3n:<\/strong> Los estados, los partidos y las organizaciones utilizan la tecnolog\u00eda para influir y convencer a otros de sus creencias pol\u00edticas, ideolog\u00edas y narrativas. La IA emergente puede llevar este caso de uso a una nueva era y permitir campa\u00f1as de desinformaci\u00f3n personalizadas personalmente a escala.<\/p>\n\n\n\n 3) Proxy gaming:<\/strong> Entrenados con objetivos err\u00f3neos o torticeros, los sistemas de IA podr\u00edan encontrar formas novedosas de perseguir sus propios objetivos a expensas de los valores individuales y sociales de los humanos.<\/p>\n\n\n\n 4) Debilitamiento:<\/strong> Si las tareas importantes se delegan cada vez m\u00e1s a las m\u00e1quinas; en esta situaci\u00f3n, la humanidad pierde la capacidad de autogobernarse y se vuelve completamente dependiente de las m\u00e1quinas.<\/p>\n\n\n\n 5) Bloqueo de valor: <\/strong>Los sistemas de IA m\u00e1s potentes pueden estar dise\u00f1ados y disponibles para cada vez menos partes interesadas. Esto puede permitir, por ejemplo, que los reg\u00edmenes hagan cumplir valores limitados a trav\u00e9s de una vigilancia generalizada y una censura opresiva. Superar tal r\u00e9gimen podr\u00eda ser poco probable, especialmente si llegamos a depender de \u00e9l.<\/p>\n\n\n\n 6) Objetivos emergentes no programados:<\/strong> Los modelos demuestran un comportamiento inesperado y cualitativamente diferente\u200d a medida que se vuelven m\u00e1s competentes. La aparici\u00f3n repentina de capacidades u objetivos no previstos por los dise\u00f1adores de estos modelos podr\u00eda aumentar el riesgo de que las personas pierdan el control sobre los sistemas avanzados de IA.<\/p>\n\n\n\n 7) Enga\u00f1o: <\/strong>Los humanos quieren entender qu\u00e9 est\u00e1n haciendo los poderosos sistemas de IA y por qu\u00e9 est\u00e1n haciendo lo que est\u00e1n haciendo. Una forma de lograr esto es establecer que los propios sistemas informen con precisi\u00f3n esta informaci\u00f3n. 8) Comportamiento de b\u00fasqueda de poder:<\/strong> Las empresas y los gobiernos tienen fuertes incentivos econ\u00f3micos para crear agentes que puedan lograr un amplio conjunto de objetivos. Dichos agentes tienen incentivos instrumentales para adquirir poder, lo que potencialmente los hace m\u00e1s dif\u00edciles de controlar. <\/p>\n\n\n\n Hoy por hoy el sector m\u00e9dico y los laboratorios farmac\u00e9uticos emplean ya la IA con el fin de mejorar la calidad de vida de las personas dependientes y mayores; ofrecer un diagn\u00f3sticos m\u00e1s precisos y r\u00e1pidos; agilizar los tiempos de investigaci\u00f3n para el desarrollo de nuevos f\u00e1rmacos y sobre determinadas enfermedades; generar vacunas, f\u00e1rmacos y pr\u00f3tesis adaptadas a las circunstancias personales y gen\u00e9ticas de los pacientes; mejorar el control y el seguimiento de pacientes cr\u00f3nicos mediante dispositivos electr\u00f3nicos y wearables; o aliviar la carga de trabajo a profesionales m\u00e9dicos. El empleo de la IA puede reducir las mermas en el negocio de transporte y distribuci\u00f3n de frutas y hortalizas acerc\u00e1ndolo a modelos just in time industriales. El poder determinar el momento justo en el que los productos agr\u00edcolas estar\u00e1n listos para cosecharlos ayuda a casar el momento de entrega con el de la demanda reduciendo as\u00ed el desperdicio alimentario. Empresas como Primaflor ya emplean sensores y tecnolog\u00edas que lo permiten. Deepnify es otro ejemplo de esto pero aplicado a la distribuci\u00f3n de alimentos. <\/p>\n\n\n\n <\/p>\n\n\n\n Habr\u00e1 Reglamento Europeo sobre IA a fines de 2023, pero pasar\u00e1n hasta dos a\u00f1os hasta que entre en vigor, adelanta Margrethe Vestager<\/span><\/a><\/p>\n\n\n\n <\/p>\n\n\n\n Alphabet trabajar\u00e1 junto con la UE por un pacto mundial voluntario sobre Inteligencia Artificial<\/span><\/a><\/p>\n\n\n\n <\/p>\n\n\n\n <\/p>\n\n\n\n La declaraci\u00f3n del CAIS (en ingl\u00e9s)<\/span><\/a><\/p>\n\n\n\n <\/p>\n\n\n\n![\"Trascendence-IA](\"https:\/\/eastwind.es\/marketing\/wp-content\/uploads\/sites\/2\/2023\/06\/Trascendence-IA-que-lo-domina-y-se-infiltra-en-el-todo.jpg\")
<\/a>
EL New York Times y otros medios se han hecho eco del este manifiesto, imagino que porque proporciona un titular contundente.
La afirmaci\u00f3n lapidaria ha servido para movilizar conciencias aunque no s\u00e9 bien si ha tenido \u00e9xito a la hora de poner el foco sobre la labor de investigaci\u00f3n, divulgaci\u00f3n y advertencia de los riesgos de la IA que lleva a cabo el CAIS.<\/p>\n\n\n\nOcho grandes riesgos que, sin duda, habr\u00eda que prevenir<\/span><\/strong><\/h4>\n\n\n\n
1) Empleo de la IA como arma para la desestabilizaci\u00f3n pol\u00edtica.<\/strong><\/p>\n\n\n\n<\/a><\/a>
Es concebible que los futuros sistemas de inteligencia artificial sean enga\u00f1osos, no por malicia, sino porque el enga\u00f1o puede ayudar a los agentes a lograr sus objetivos. Puede ser m\u00e1s eficiente obtener la aprobaci\u00f3n humana a trav\u00e9s del enga\u00f1o que obtener la aprobaci\u00f3n humana leg\u00edtimamente.<\/p>\n\n\n\n<\/a>
Y la lista no es exhaustiva sino s\u00f3lo a modo de ejemplo.<\/p>\n\n\n\nIA para mejorar los negocios, la salud y salvar el planeta, la otra cara de la misma moneda<\/span><\/strong><\/h4>\n\n\n\n
El empleo de IA y la posibilidad de analizar r\u00e1pida y correctamente un gran c\u00famulo de datos en tiempo real hace posible pron\u00f3sticos del tiempo m\u00e1s precisos, mejorar la productividad y calidad de frutas, hortalizas y otros cultivos, como el arroz.<\/p>\n\n\n\n<\/a>
El programa de Microsoft AI for Earth, que otorgaba subvenciones entre los $5.000 y los $15.000 para investigaciones encaminadas a analizar alguna de las cuatro \u00e1reas vitales para desarrollar un futuro sostenible: agua, biodiversidad, clima y agricultura tuvo una gran acogida, por poner un ejemplo.
En el campo de la extinci\u00f3n y prevenci\u00f3n de incendios, IBM ha aplicado la IA para desarrollar \u201cBee2FireDetection\u201d. Esta herramienta que funciona 24 horas al d\u00eda los 365 d\u00edas del a\u00f1o, es capaz de calcular cu\u00e1les son las probabilidades de que se produzca un incendio, lo que ayuda a prevenirlo y en su caso, extinguirlo.<\/p>\n\n\n\nImagen sobre el titular.-<\/strong> Fotograma de Ex machina. Ava, la androide con IA avanzada es capaz de seducir, mentir y hasta matar a su creador para conseguir sobrevivir.<\/span><\/h4>\n\n\n\n
Eastwind Marketing links relacionados<\/span>:<\/span><\/strong><\/h4>\n\n\n\n
Links externos relacionados<\/span>:<\/span><\/strong><\/h4>\n\n\n\n