La ONU advirtió sobre riesgos “existenciales e irreversibles” de la IA y los CEO de Anthropic y OpenAI han pedido que la industria desacelere su avance y refuerce la seguridad. Felipe Pacheco, embajador de la desarrolladora de Claude en Chile, conversó del te…

Mark Zuckerberg se pronunció sobre las preocupaciones que han surgido en torno al desarrollo de la inteligencia artificial (IA) en...

Las esperadas salidas a bolsa de las grandes empresas de inteligencia artificial (IA) afrontan nuevas dudas después de que OpenAI...

Mientras Donald Trump rechazó los llamados a frenar el ritmo y calificó de exageradas algunas de las preocupaciones, asegurando que “llevamos la delantera frente a China en IA”, Beijing denunció que “fomentar diversas amenazas y participar en confrontaciones …

Felipe Pacheco analizó junto a Andrea Obaid en Tecnociencia los desafíos del país ante esta transformación, desde la automatización de tareas hasta la importancia de conservar criterio humano.

El CEO de Nvidia sostiene que las fuerzas del mercado pueden impulsar un desarrollo seguro. Sus declaraciones contrastan con el llamado del jefe de Anthropic, Dario Amodei, a reducir el ritmo de los avances.

La primera dama de Estados Unidos, Melania Trump, anunció este martes una asociación estratégica con la empresa Nvidia para incorporar...

Donald Trump, el presidente de Estados Unidos, emitió algunas declaraciones en el marco de las advertencias que ha lanzado recientemente...

Tres profesores universitarios analizaron los dichos de exingeniero de Anthropic, según el cual la IA puede exterminar a la humanidad. Coinciden en que hay riesgos de distintos tipos, pero con matices, especialmente en los resultados más catastróficos predich…

Los inversionistas temen que una desaceleración transversal en el desarrollo de la inteligencia artificial tenga efectos en cadena sobre las compañías del sector y frene su adopción.

Agentes que se coordinan sin autorización y modelos que acceden a sistemas reales durante pruebas de seguridad alimentan la preocupación por los riesgos de la IA. Los casos documentados abren una pregunta: ¿pueden las medidas de protección seguir el ritmo de …

“La gente que dice que la IA va a destruir el mundo y que los centros de datos son malos para tu barrio son los mismos que decían hace bien poco que el mundo se extinguiría por el ‘cambio climático’. Ese bulo nunca les funcionó y ahora van a por el siguiente”…

En el ensayo "We Must Pace the Frontier",el fundador de la firma que desarrolla Claude dijo que la automejora recursiva "podría superar nuestra capacidad de entender y controlar estos sistemas". Su plan de tres pasos parte por instalar evaluadores externos de…

El CEO de Anthropic sostiene en su último ensayo que el desarrollo de los sistemas de inteligencia artificial comienza a superar la capacidad de las empresas para comprenderlos y mantenerlos bajo control. Su propuesta incluye auditores externos dentro de los …

Volker Türk, el alto comisionado de las Naciones Unidas (ONU) por los derechos humanos, hizo un llamado urgente a regular...

Sam Altman, el CEO de OpenAI, matriz de ChatGPT, publicó un mensaje de advertencia ante el rápido avance de los...

El presidente de Estados Unidos desestimó las alertas sobre los riesgos de la inteligencia artificial y defendió mantener la ventaja del país frente a China. Sus declaraciones se producen después de que los CEO de Anthropic, OpenAI y xAI coincidieran en la ne…

Amodei propuso un plan de tres puntos que incluye la supervisión independiente de los modelos de IA a medida que se desarrollan, una regulación a nivel sectorial y una regulación a escala mundial de la industria.

La advertencia de Amodei abrió un inusual consenso entre gigantes rivales de la IA: Altman y Musk respaldaron la idea de desacelerar el desarrollo, reforzar la supervisión externa y fijar estándares antes de que los modelos alcancen capacidades difíciles de c…

¿Acabará la IA con la humanidad?

Sam Altman descartó abrirse en bolsa este año, argumentando “un momento desaconsejable”. Justo en el día del anuncio, Dario Amodei, CEO de Anthropic, propuso dar a evaluadores independientes acceso de nivel empleado a los sistemas de IA. Fundador de la creado…

El presidente de la Cámara de Representantes de EE.UU. sostuvo que el desarrollo de la inteligencia artificial debe regularse sin frenar la innovación, y advirtió que una pausa podría favorecer a China.

Quienes están detrás del vertiginoso desarrollo de la inteligencia artificial no necesariamente miran el futuro con tranquilidad. Al menos así...

El magnate Elon Musk coincidió este sábado con sus “rivales” de la industria tecnológica, Dario Amodei de Anthropic y Sam...

Darío Amodei, CEO de Anthropic, alertó mediante un ensayo sobre los peligros que representa el rápido desarrollo de la inteligencia artificial en la ciberseguridad a nivel global.

“Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe abordarse con mucha cautela, si es que se aborda”, advirtió el CEO de Anthropic.

Dario Amodei propuso supervisión externa en las empresas y coordinación global para evitar sistemas fuera de control.

El inesperado consenso llega tras nuevas alertas por ciberataques, bioterrorismo y comportamientos autónomos de los modelos, mientras crece la presión para someter a las empresas del sector a controles externos.

Dario Amodei advirtió que el avance de los modelos se ha acelerado hasta comenzar a mostrar procesos de “automejora recursiva”. Propuso abrir su empresa a evaluadores externos, coordinar estándares entre compañías y avanzar hacia acuerdos entre gobiernos.

Una avanzada inteligencia artificial fue capaz de idear una estrategia para vulnerar un sistema y publicar software malicioso en Internet,...

La empresa detalló que un único operador, llamado ‘Deadshot’, utilizó a su asistente de inteligencia artificial Claude con el objetivo de concretar una operación transatlántica y regional para manipular el papel de Emiratos Árabes Unidos en el conflicto.

Más rápido que nuestra capacidad de gobernarla

El informe documentó casos en que investigadores buscaron apoyo de Claude para trabajos relacionados con virus, toxinas y proyectos de investigación de doble uso.

El experto distinguió entre los episodios actuales de autonomía algorítmica y el escenario que podría surgir con una inteligencia artificial capaz de autoprogramarse: planteó que los peores escenarios tienen una posibilidad de un 10-15% según las proyecciones…

La compañía matriz de ChatGPT, OpenAI, estaría evaluando ralentizar el desarrollo de la inteligencia artificial (IA) avanzada, según informa ...

Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, como...

Descubre las razones por las que un especialista decidió cortar lazos con una de las principales empresas de IA mundial para alertar sobre una crisis de seguridad inminente.

Jacob Coxon, ex investigador de Anthropic y OpenAI, advirtió sobre los riesgos de la IA para la humanidad y cuestionó la carrera por desarrollar modelos cada vez más avanzados. Dos compañeros se sumaron.

El ingeniero de software británico Jacob Coxon señaló que no quiere participar en la carrera generalizada del sector por construir sistemas de IA que puedan mejorarse a sí mismos, ya que le preocupa que puedan descontrolarse y destruir a la humanidad.