genearti if ($detect->isMobile() || $detect->isTablet()) { header("Location: https://www.clubplaneta.com.mx/mobil/gary_marcus_sera_un_loco_y_alarmista_de_la_ia.htm"); } header("Content-Type: text/html; charset=ISO-8859-1"); ?>Gary Marcus ¿será un loco y alarmista de la IA?
Logo Clubplaneta


Compártenos
FaceBookTwitterGoogleCorreoPin it
/www.clubplaneta.com.mx/ >¿Sabías qué?>Gary Marcus ¿será un loco y alarmista de la IA?>

Gary Marcus ¿será un loco y alarmista de la IA?

ingeligencia artificial

En la última década, la inteligencia artificial (IA) se ha transformado y crecido con mucha fuerza. Incluso, esta es una realidad que aspira a revolucionar diversos aspectos de nuestra sociedad, sin embargo, son muchos los especialistas que advierten de sus posibles consecuencias y hacen énfasis en la posibilidad de que ésta se escape del control de los humanos.

Este es el caso del profesor emérito de la Universidad de Nueva York Gary Marcus, una de las principales voces en el debate sobre la IA en la actualidad.

Gary Marcus fundó dos empresas de IA, compradas por Uber; ha escrito decenas de papers y 5 libros, el último, Rebooting AI, considerado una de las obras clave, como por sus encarnizadas peleas dialécticas con el francés Yann LeCun, jefe de IA en Meta y el gran visionario mundial en esta materia, ganador en 2018 del equivalente al Nobel en IA, el Turing Award, y Premio Princesa de Asturias este año. "¿LeCun? Es un mentiroso, solo quiere desacreditarme porque muchas de las cosas que dice él ahora las avancé yo primero", aclara.

Gary Marcus, el profesor que fue llamado "loco y alarmista" por sus advertencias sobre la inteligencia artificial

profesor gary marcus, fuente getty images

¿Pudiera decirse que se exagera al llamarlo loco y alarmista por sus advertencias sobre la inteligencia artificial? Realmente no porque ha acertado en sus predicciones.

El investigador argumenta que el lanzamiento de ChatGPT, el chatbot basado en IA, nos lleva al "momento Jurassic Park" de las máquinas, debido a la posibilidad de que la situación se salga de control y termine perjudicándonos.

"Algo increíble está sucediendo en el mundo de la inteligencia artificial y no es del todo bueno", predijo hace seis meses el también científico, autor y empresario estadounidense.

"Cuando escribí este artículo, creo que la gente pensó que estaba loco o que era alarmista", dijo Marcus en una entrevista con la BBC.

Pero en 2023, empezaron a proliferar serios problemas con este tipo de inteligencia artificial: un ejemplo fue lo sucedido en marzo, en Bélgica, donde un hombre que hablaba frecuentemente con el chatbot Eliza, de la empresa Chai, se suicidó.

Asesinato por chatbot

chatbot eliza

La esposa del hombre sostiene que el contacto con el programa lo llevó a quitarse la vida, y para el gobierno belga, el caso es "un precedente que debe tomarse en serio" y "el peligro del uso [de la inteligencia artificial] es una realidad que debe ser considerada".

El sujeto se quitó la vida tras aislarse cada vez más de su familia y separándose del mundo real. "En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos", escribió tras el hecho el secretario de Estado belga de Digitalización, Mathieu Michel, en un comunicado de prensa.

Era un escenario posible descrito cuatro meses antes por Marcus en un artículo para la revista Wired: "¿Quizás un chatbot lastimará a alguien tan profundamente que la persona se verá impulsada a terminar con su vida? (...) En 2023, podemos ver nuestro primer asesinato por un chatbot".

"Creo que estos sistemas pueden ser muy destructivos. Y parte de la razón del potencial de destrucción es que no son confiables. Estos programas pueden inventar algo y decirle [al usuario] que es un hecho. Y también pueden ser usados por personas para ese fin", dice Marcus.

"Los sistemas de inteligencia artificial que tenemos ahora no están bien controlados. Todavía no es una situación terrible, pero la gente les está dando cada vez más poder. Y no sabemos qué pueden hacer esos sistemas en una situación determinada".

Siete predicciones sombrías

chatgpt

El año pasado, Marcus compiló "siete predicciones nefastas" sobre sistemas como ChatGPT, incluida que la versión más nueva del programa sería como un "toro en una tienda de porcelana, imprudente y difícil de controlar". "Cometerá una cantidad significativa de errores alucinantes, en formas que son difíciles de predecir".

A fines de marzo, un caso extraño llamó la atención de los medios. Una persona le pidió a ChatGPT que nombrara a académicos involucrados en acoso sexual.

La lista mencionaba a un profesor de derecho estadounidense, Jonathan Turley. El programa dijo que Turley hizo comentarios sexualmente sugerentes a una estudiante durante un viaje a Alaska y trató de tocarla. En la respuesta se citaba como evidencia un informe de 2018 del Washington Post.

Pero nada de eso pasó: ni el viaje, ni el informe ni siquiera la acusación. Es como si el robot hubiera inventado todo.

OpenAI, la empresa detrás de ChatGPT, emitió un comunicado diciendo que el programa "no siempre genera respuestas precisas".

"Si no tomamos medidas, estamos cerca de entrar en un ambiente de posverdad", dice el profesor de la Universidad de Nueva York.

"Necesitamos sanciones para quienes produzcan desinformación masiva, exigir marcas de agua para identificar de dónde proviene la información y crear nuevas tecnologías para detectar falsedades. Así como hay un programa antivirus, necesitamos un software antidesinformación".

Cuando se le consultó sobre si creía que el famoso mantra de Silicon Valley "muévete rápido y rompe cosas" y la competencia desenfrenada por los mercados fomentaban circunstancias peligrosas para el desarrollo de la inteligencia artificial, dice que "no es posible esperar que el capitalismo, por sí mismo, vaya a resolver estos problemas". Defiende que las empresas están sujetas a regulación y cita el mercado de la aviación como ejemplo de que es algo necesario.

"La industria de las aerolíneas en la década de 1950 era un desastre. Los aviones se estrellaban todo el tiempo. La regulación era buena para la industria de las aerolíneas. Al final hizo que la industria de las aerolíneas desarrollara un mejor producto", dice.

"Dejar las cosas a las empresas no conduce necesariamente en la dirección correcta... Hay una razón para que existan los gobiernos, ¿verdad?".

¿Será verdad que los problemas de la inteligencia artificial son más urgentes que los del cambio climático?

robots ia

La postura de cautela y de entusiasmo con desconfianza de Marcus por la rápida evolución de la IA no siempre ha sido bien recibida.

Su escepticismo ha sido objeto de burlas años atrás por parte de sus compañeros (principalmente en Twitter), pero la marea ha cambiado: varias personalidades en el campo de la IA han comenzado a adoptar un tono diferente.

Jeffrey Hinton, llamado el "padrino de la IA", anunció su salida de Google y dijo poco después que considera que los problemas de la inteligencia artificial son "quizás más urgentes que los del cambio climático".

"Hinton y yo tenemos puntos de vista diferentes sobre algunos aspectos de la inteligencia artificial. Mantuve correspondencia con él hace un tiempo, le expliqué mi posición y estuvo de acuerdo conmigo, lo cual no siempre es el caso. Pero el tema principal en el que estamos de acuerdo es el del control", dice.

"No estoy necesariamente de acuerdo con que la [IA] sea una amenaza mayor que el cambio climático, pero es difícil saberlo. Hay muchos datos disponibles para tratar de estimar los riesgos del cambio climático. Pero con la inteligencia artificial ni siquiera sabemos cómo calcular esos riesgos".

"Pero para mí, la posibilidad de que estas herramientas se utilicen para socavar las democracias es esencialmente del 100%. Ahora, no sabemos si existe la posibilidad de que los robots se apoderen del planeta. Es razonable que algunas personas se planteen en este escenario. Estamos construyendo herramientas muy poderosas y debemos considerar estas amenazas".

Fuentes:

BBC

Radio Studio 97.


Zona de comentarios