Connect with us

General

Inteligencia Artificial Letal?

Published

on

inteligencia artificial peligrosa

Enfrenta la humanidad ‘peligro de extinción’

Kevin Rose/The New York Times

Enfrenta la humanidad ‘peligro de extinción’

Un grupo de líderes de la industria advirtió el martes que la tecnología de inteligencia artificial (IA) que estaban construyendo algún día podría representar una amenaza existencial para la humanidad y debería considerarse un riesgo social a la par de las pandemias y las guerras nucleares.

“Mitigar el riesgo de extinción que representa la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, se lee en una declaración de una oración publicada por el Centro para la Seguridad de la IA, una organización sin fines de lucro. La carta abierta fue firmada por más de 350 ejecutivos, investigadores e ingenieros que trabajan en IA.

Los firmantes incluyen altos ejecutivos de tres de las principales empresas de inteligencia artificial: Sam Altman, director ejecutivo de OpenAI; Demis Hassabis, CEO de Google DeepMind; y Dario Amodei, CEO de Anthropic.

Geoffrey Hinton y Yoshua Bengio, dos de los tres investigadores que ganaron un Premio Turing por su trabajo pionero en redes neuronales y que a menudo se les considera “padrinos” del movimiento moderno de IA, firmaron la declaración, al igual que otros investigadores destacados en el campo. (El tercer ganador del Premio Turing, Yann LeCun, quien dirige los esfuerzos de investigación de IA de Meta, no había firmado hasta el martes).

La declaración llega en un momento de creciente preocupación por los daños potenciales de la IA. Los avances recientes en los llamados modelos de lenguaje extenso –el tipo de sistema de IA utilizado por ChatGPT y otros chatbots–, han generado temores de que la IA pronto podría usarse a gran escala para difundir información errónea y propaganda, o que podría eliminar millones de trabajos administrativos.

Con el tiempo, algunos creen que la IA podría volverse lo suficientemente poderosa como para crear trastornos a escala social en unos pocos años si no se hace nada para ralentizarla, aunque los investigadores a veces no llegan a explicar cómo sucedería eso.

Muchos líderes de la industria comparten estos temores, lo que los coloca en la posición inusual de argumentar que una tecnología que están construyendo –y, en muchos casos, están compitiendo furiosamente para construir más rápido que sus competidores–, presenta graves riesgos y debe ser regulada más estrictamente.

Este mes, Altman, Hassabis y Amodei se reunieron con el presidente Joe Biden y la vicepresidenta Kamala Harris para hablar sobre la regulación de la IA.

En un testimonio en el Senado después de la reunión, Altman advirtió que los riesgos de los sistemas avanzados de IA eran lo suficientemente graves como para justificar la intervención del Gobierno y pidió la regulación de la IA por sus daños potenciales.

Dan Hendrycks, director ejecutivo del Center for AI Safety, dijo en una entrevista que la carta abierta representaba una “salida del armario” para algunos líderes de la industria que habían expresado su preocupación, pero sólo en privado, sobre los riesgos de la tecnología que estaban desarrollando. 

“Hay una idea errónea muy común, incluso en la comunidad de IA, de que sólo hay un puñado de fatalistas”, dijo Hendrycks.

“Pero, de hecho, muchas personas en privado expresarían su preocupación por estas cosas”.

Algunos escépticos argumentan que la tecnología de IA aún es demasiado inmadura para representar una amenaza existencial.

Cuando se trata de los sistemas de IA actuales, se preocupan más por los problemas a corto plazo, como las respuestas sesgadas e incorrectas, que por los peligros a más largo plazo.

Pero otros han argumentado que la IA está mejorando tan rápidamente que ya ha superado el rendimiento a nivel humano en algunas áreas y que pronto lo superará en otras.

Dicen que la tecnología ha mostrado signos de habilidades y comprensión avanzadas, lo que genera temores de que la “inteligencia general artificial” o AGI, un tipo de IA que puede igualar o superar el rendimiento del nivel humano en una amplia variedad de tareas, puede no estar tan lejos.

En una publicación de blog la semana pasada, Altman y otros dos ejecutivos de OpenAI propusieron varias formas en que los poderosos sistemas de IA podrían administrarse de manera responsable.

Hicieron un llamado a la cooperación entre los principales creadores de IA, más investigación técnica en modelos de lenguaje extenso y la formación de una organización internacional de seguridad de IA, similar a la Agencia Internacional de Energía Atómica, que busca controlar el uso de armas nucleares.

Altman también expresó su apoyo a las reglas que requerirían que los creadores de modelos de inteligencia artificial grandes y de vanguardia se registren para obtener una licencia emitida por el Gobierno.

En marzo, más de mil tecnólogos e investigadores firmaron otra carta abierta pidiendo una pausa de seis meses en el desarrollo de los modelos de IA más grandes, citando preocupaciones sobre “una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas”.

Esa carta, que fue organizada por otra organización sin fines de lucro centrada en la IA, Future of Life Institute, fue firmada por Elon Musk y otros líderes tecnológicos conocidos, pero no tenía muchas firmas de los principales laboratorios de IA.

La brevedad de la nueva declaración del Centro para la Seguridad de la IA (sólo 22 palabras) estaba destinada a unir a los expertos en IA que pueden estar en desacuerdo sobre la naturaleza de los riesgos específicos o los pasos para evitar que ocurran esos riesgos, pero que comparten preocupaciones generales sobre los poderosos sistemas de IA, dijo Hendrycks.

“No queríamos presionar por un menú muy grande de 30 posibles intervenciones”, dijo. “Cuando eso sucede, diluye el mensaje”.

La declaración se compartió inicialmente con algunos expertos en IA de alto perfil, incluido Hinton, quien renunció a su trabajo en Google este mes para poder hablar con más libertad, dijo, sobre los daños potenciales de la IA.

Desde allí, se dirigió a varios de los principales laboratorios de IA, donde algunos empleados se registraron.

La urgencia de las advertencias de los líderes de IA ha aumentado a medida que millones de personas recurren a los chatbots de IA para entretenimiento, compañía y mayor productividad, y a medida que la tecnología subyacente mejora a un ritmo acelerado.

“Creo que si esta tecnología sale mal, puede resultar bastante mal”, dijo Altman al subcomité del Senado. “Queremos trabajar con el Gobierno para evitar que eso suceda”.

Continue Reading
Click to comment

You must be logged in to post a comment Login

Leave a Reply

General

Celebra Banda del CASEF Suroriente primer aniversario con concierto sinfónico

Published

on

El Centro Cultural Ernesto Ochoa Guillemard se vistió de gala con la presentación de la Banda Sinfónica del CASEF Suroriente, la cual pertenece al programa Semilleros Creativos en conjunto con el Sistema para el Desarrollo Integral de la Familia del Municipio de Juárez (DIF).

Fueron 38 niñas, niños y adolescentes entre los 7 a 17 años de edad los que se presentaron en este concierto, evento con el cual celebraron su primer aniversario frente a sus familiares, maestras, maestros y autoridades.

Rubí Enríquez, presidenta del DIF Municipal, encabezó este concierto, en el cual felicita a los docentes por compartir su conocimiento con los miembros de la banda, así como a los padres de familia por el esfuerzo que ponen a favor del aprendizaje de sus hijas e hijos.

“Estamos muy orgullosos de ustedes, en todo lo que se pueda nosotros los vamos a apoyar, estamos orgullosos de sus padres de familia porque están apoyándolos y dando el extra”, expresó la presidenta del DIF.

Dicha orquesta forma parte del programa de Semilleros Creativos de la Secretaría de Cultura, cuya intención es fomentar la cultura musical entre las niñas, niños y adolescentes para que tengan un mejor futuro.

La agrupación del CASEF Suroriente nació en octubre del año 2023, con el objetivo de enseñar a la niñez y adolescencia diferentes técnicas musicales.

La Banda Sinfónica CASEF Suroriente está a cargo del director Arturo Muñiz Mendoza, así como de los maestros Luis Carlos López, Óscar Alonso Pérez y Gustavo Daniel San Vicente, que han acompañado a los miembros de la orquesta en el aprendizaje de los instrumentos que van desde los metales, maderas y percusiones.

Las niñas, niños y adolescentes que conforman esta banda ensayan de lunes a viernes durante tres horas diarias, actividad que les ayuda a nutrir valores importantes para su desarrollo como la disciplina, respeto y la responsabilidad.

Gilberto Gutiérrez, subdirector del DIF; Lluvia Villarreal, coordinadora del CASEF Suroriente; Carlos Grado Director de Desarrollo Humano del DIF; Myrna Barajas, directora del IPACULT y Coordinadora General de Agrupaciones musicales Comunitarias, estuvieron presentes en el evento.

Continue Reading

General

MIGRANTES SE INTOXICAN EN EL GIMNASIO KIKI ROMERO

Published

on

AGENTES DE SEGURIDAD PUBLICA MUNICIPAL REPORTARON QUE EN EL GIMNASIO MUNICIPAL KIKI ROMERO UN GRUPO DE INMIGRANTES RESULTARON INTOXICADOS A CAUSA DE HABER CONSUMIDO POLLO, EN EL LUGAR SE ENCONTRARON ALREDEDOR DE 30 PERSONAS INTOXICADAS, POR LO QUE SE SOLICITÓ EL APOYO DE UNIDADES MÉDICAS LAS CUÁLES TRASLADARON A CUATRO PACIENTES AL HOSPITAL GENERAL Y DOS MENORES AL HOSPITAL INFANTIL.

EL DEPARTAMENTO DE PROTECCIÓN CIVIL A CARGO DE MAURICIO RODRÍGUEZ REPORTÓ  QUE SE EN ATENDIERON UN TOTAL DE 32 ADULTOS TRASLADADOS Y DOS MENORES ENTRE ELLOS: SE TRASLADARON 6 PERSONAS AL IMSS 66, 9 PERSONAS AL HOSPITAL GENERAL, 10 PERSONAS AL FEMAP, 3 PERSONAS AL IMSS 35. 2 PERSONAS CRUZ ROJA CENTENARIO Y 2 INFANTES LOS MIGRANTES SON DE LAS NACIONALIDADES DE; VENEZUELA, BOLIVIA, SALVADOR, ECUADOR, HONDURAS Y MÉXICO.

Continue Reading

General

Ciudad Juárez convertida en un gran cementerio clandestino 

Published

on

Así lo han confirmado informes que emiten las autoridades constantemente donde personas son enterradas de manera clandestina como lo confirma este más reciente cateo realizado por la fiscalía del estado…

Durante un cateo localizan FGE y AEI cuerpo inhumado clandestinamente en Colinas de Juárez

 

Derivado de labores de inteligencia e investigación que permitieron obtener de un Juez de Control una orden de cateo, esta mañana la Fiscalía de Distrito Zona Norte y elementos de la Agencia Estatal de Investigación, localizaron el cuerpo de una persona inhumada de manera clandestina en Ciudad Juárez.

 

La acción policial, en seguimiento a una carpeta de la Unidad Especializada en la Investigación de Personas Ausentes y/o Desaparecidas, se realizó en un domicilio de la calle Veracruz de la colonia Colinas de Juárez y contó con la colaboración de la Dirección de Servicios Periciales y Ciencias Forenses.

 

El cumplimiento al mandato judicial se llevó a cabo con el objetivo de localizar evidencia, material biológico, así como cualquier indicio relacionado con las indagatorias, por lo que al hacer minusiosas revisiones y con el apoyo del binomio canino K-9, se ubicó un área en el patio trasero en la que se localizó lo siguiente:

 

A una profundidad de 79 centímetros, se encuentra cuerpo, de sexo indeterminado, mismo que es trasladado al Semefo para llevar a cabo los análisis técnico-científicos que ayuden a su individualización y establecer causa de fallecimiento.

 

La Fiscalía General del Estado, en seguimiento a las indicaciones de la Gobernadora Maru Campos, refrenda su compromiso con las familias de personas no localizadas, para mantener la búsqueda constante que ayude a dar con su paradero.

Continue Reading

Trending

Copyright © 2023