<\/i>Juegos de poder<\/i><\/i>, por: Leo Zuckermann.<\/b><\/p>\n
Twitter: @leozuckermann<\/b><\/p>\n<\/p>\n
En los \u00faltimos d\u00edas he le\u00eddo varios art\u00edculos sobre el
\npeligro de la inteligencia artificial (IA) para la humanidad. Por ejemplo, un
\ngrupo de mil l\u00edderes e investigadores del sector tecnol\u00f3gico solicit\u00f3 una pausa
\nde seis meses en el entrenamiento de los poderosos sistemas de IA. Argumenta
\nque \u00e9stos podr\u00edan representar una potencial amenaza para la humanidad. En una
\ncarta abierta, afirman que estamos en \u201cuna carrera fuera de control para
\ndesarrollar e implementar mentes digitales cada vez m\u00e1s poderosas que nadie, ni
\nsiquiera sus creadores pueden comprender, predecir o controlar de forma
\nfiable\u201d. La declaraci\u00f3n est\u00e1 firmada por el empresario Elon Musk y el
\ncofundador de Apple, Steve Wozniak, entre otros.<\/p>\n
\u00bfEl fin de la humanidad? \u00bfNo estar\u00e1n exagerando?<\/p>\n
El tema ya me hab\u00eda interesado desde hace mucho
\ntiempo. En 2015 entrevist\u00e9 a Nick Bostrom, fil\u00f3sofo de la Universidad de Oxford
\ny experto en el fen\u00f3meno de la IA. Le pregunt\u00e9 c\u00f3mo imaginar al mundo con esta
\nnueva tecnolog\u00eda que, seg\u00fan \u00e9l, revolucionar\u00eda por completo lo que hoy somos.
\nMe respondi\u00f3 que, si hace 12 mil a\u00f1os le hubi\u00e9ramos preguntado a un homo
\nsapiens que s\u00f3lo com\u00eda pl\u00e1tanos c\u00f3mo se imaginaba su mundo con una mejora
\ntecnol\u00f3gica, hubiera respondido: \u201cCon m\u00e1s pl\u00e1tanos\u201d. El sapiens no ten\u00eda la
\nposibilidad de imaginar en ese entonces una computadora, un avi\u00f3n o un celular.
\nRemat\u00f3: todo lo que pueda yo responderte ahorita sobre el mundo con
\ninteligencia artificial ser\u00eda como el sapiens diciendo \u201cm\u00e1s pl\u00e1tanos\u201d.<\/p>\n
As\u00ed que no tenemos manera de imaginar las cosas que
\npueden surgir con la IA. En este sentido, Bostrom propuso ponerles l\u00edmites a
\nestos sistemas. Hab\u00eda que integrar en los algoritmos los valores universales
\nhumanos para evitar que las s\u00faper inteligencias atentaran en contra de sus
\ncreadores. Ense\u00f1arles, por ejemplo, que est\u00e1 prohibido matar.<\/p>\n
Es, sin duda, un tema fascinante, sobre todo ahora que
\nempresas de tecnolog\u00eda ya lanzaron sistemas de inteligencia artificial al
\np\u00fablico.<\/p>\n
\u00bfQuiere decir esto que ya estamos en peligro de
\nextinci\u00f3n tal y como lo alertan los mil signantes de la carta?<\/p>\n
Fui a buscar la respuesta precisamente a ChatGPT,
\nsistema que ya est\u00e1 integrado al motor de b\u00fasqueda Bing de Microsoft. Despu\u00e9s
\nde registrarme, le pregunt\u00e9: \u201c\u00bfPuede la inteligencia artificial acabar con la
\nhumanidad?\u201d. A prop\u00f3sito la cuestion\u00e9 en espa\u00f1ol para, aparte de ver qu\u00e9 tan
\ninteligente era, revisar qu\u00e9 tan bien escrib\u00eda en nuestra lengua.<\/p>\n
\u00c9sta es la primera respuesta que obtuve: \u201cCient\u00edficos
\nde la Universidad de Sunshine Coast en Australia han planteado que la inteligencia
\nartificial altamente desarrollada es capaz de destruir o causar da\u00f1os
\ncatastr\u00f3ficos a la humanidad, incluso sin intenci\u00f3n maligna. Un grupo de
\nexpertos en inteligencia artificial y ejecutivos de la industria tecnol\u00f3gica
\npidieron una pausa de seis meses en el entrenamiento de los poderosos sistemas
\nde inteligencia artificial, argumentando que se trata de una potencial amenaza
\npara la humanidad. \u00bfTe gustar\u00eda saber m\u00e1s sobre este tema?\u201d.<\/p>\n
As\u00ed que, a la primera de cambios, me respondi\u00f3 sobre
\nla carta arriba citada. No me pareci\u00f3 una respuesta muy sofisticada que
\ndigamos. Le solicit\u00e9 m\u00e1s informaci\u00f3n y me volvi\u00f3 a responder lo de la misiva.
\nUna repetici\u00f3n a la segunda de cambios. Muy mal.<\/p>\n
Ped\u00ed m\u00e1s informaci\u00f3n y me dijo: \u201cCient\u00edficos de Google
\ny Oxford han realizado un estudio con el que han llegado a la conclusi\u00f3n de que
\nes \u2018probable\u2019 que la IA acabe con la raza humana. Argumentan en su estudio que
\nla IA avanzada acabar\u00e1 con los humanos porque las m\u00e1quinas terminar\u00e1n
\nincentiv\u00e1ndose para romper las reglas y competir\u00e1n inevitablemente por sus
\nnecesidades energ\u00e9ticas, dado los escasos y limitados recursos de la Tierra\u201d.<\/p>\n
Otra respuesta b\u00e1sica y con errores de sintaxis.<\/p>\n
D\u00edas antes hab\u00eda le\u00eddo un editorial de Yuval Harari y
\notros alertando sobre el mismo tema. Entonces le cuestion\u00e9 a ChatGPT sobre la
\npostura del autor de Sapiens. Aqu\u00ed la respuesta:<\/p>\n
\u201cHarari afirma que los cerebros humanos ser\u00e1n
\npirateados pronto si no descubrimos c\u00f3mo regular la inteligencia Artificial.
\nLos comentarios de Harari reflejan ciertamente los peores temores de la
\nhumanidad sobre la IA [\u2026] Harari sugiere que la gran cantidad de datos que se
\nrecopilan ahora dar\u00e1 lugar a algoritmos cada vez m\u00e1s potentes que nos dir\u00e1n
\ntodo, desde qu\u00e9 estudiar hasta con qui\u00e9n casarse\u201d.<\/p>\n
Picado por la curiosidad, entonces le pregunt\u00e9 a
\nChatGPT con qui\u00e9n tengo que casarme. Esto me contest\u00f3:<\/p>\n
\u201cNo tienes que casarte con nadie si no quieres. La
\nelecci\u00f3n de una pareja para casarse es una decisi\u00f3n muy personal y depende de
\ntus propios valores y deseos\u201d.<\/p>\n
Con estas respuestas, francamente no veo a estos
\nalgoritmos poniendo en peligro a la humanidad. A lo mejor hay otros m\u00e1s
\nsofisticados, pero los que est\u00e1n disponibles al p\u00fablico, no.<\/p><\/p>\n","protected":false},"excerpt":{"rendered":"
Juegos de poder.<\/p>\n","protected":false},"author":1059,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"tdm_status":"","tdm_grid_status":"","footnotes":""},"categories":[25],"tags":[],"_links":{"self":[{"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/posts\/24758"}],"collection":[{"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/users\/1059"}],"replies":[{"embeddable":true,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/comments?post=24758"}],"version-history":[{"count":1,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/posts\/24758\/revisions"}],"predecessor-version":[{"id":39396,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/posts\/24758\/revisions\/39396"}],"wp:attachment":[{"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/media?parent=24758"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/categories?post=24758"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dralvarez.com.mx\/larevista\/wp-json\/wp\/v2\/tags?post=24758"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}