Medios relacionados – Noticias de última hora
A principios del año pasado, un hacker logró acceder a los sistemas de mensajería internos de OpenAI, la empresa detrás de ChatGPT, y obtener información sobre el diseño de las tecnologías de inteligencia artificial de la empresa.
Según fuentes cercanas al incidente, el hacker robó detalles de las discusiones en un foro en línea donde los empleados de OpenAI discutían las últimas tecnologías. Sin embargo, no tuvo acceso a los sistemas en los que se aloja y desarrolla la inteligencia artificial de la empresa.
Los ejecutivos de OpenAI informaron a los empleados sobre el incidente durante una reunión en abril de 2023 en San Francisco, donde discutieron información confidencial bajo condición de anonimato. Aunque no se robó información de clientes ni socios, los ejecutivos decidieron no hacer pública la noticia. No consideraron al hacker una amenaza a la seguridad nacional porque parecía ser un ciudadano privado sin vínculos conocidos con ningún gobierno extranjero. La empresa no informó a las autoridades policiales.
El incidente generó preocupación entre algunos empleados de OpenAI, que temían que adversarios extranjeros, como China, pudieran robar tecnología de inteligencia artificial que, en última instancia, podría comprometer la seguridad nacional de Estados Unidos. También planteó dudas sobre el enfoque de seguridad de OpenAI y expuso las divisiones internas dentro de la empresa sobre los riesgos de la inteligencia artificial.
Después del hack, Leopold Aschenbrenner, director del programa técnico de OpenAI encargado de garantizar que las futuras tecnologías de IA no causen daños graves, envió un memorando a la junta directiva de la empresa. En el memorando, argumentaba que OpenAI no estaba haciendo lo suficiente para evitar que el gobierno chino y otros actores extranjeros robaran sus secretos.
Aschenbrenner, quien fue despedido por filtrar información fuera de la empresa, mencionó el incidente de seguridad en un podcast reciente y reiteró sus preocupaciones. Sin embargo, OpenAI negó que su despido estuviera relacionado con el hack y no estuvo de acuerdo con las declaraciones de Aschenbrenner sobre su trabajo.
Existían preocupaciones legítimas de que un ataque a una empresa de tecnología estadounidense pudiera tener vínculos con China. En el pasado, se descubrió que los piratas informáticos chinos habían utilizado sistemas de Microsoft para atacar redes del gobierno federal. Sin embargo, las leyes actuales no permiten que OpenAI excluya a personas en función de su nacionalidad, y los expertos en políticas han enfatizado que restringir el talento extranjero podría obstaculizar el progreso de la IA en los Estados Unidos.
Si bien las tecnologías de inteligencia artificial actuales pueden difundir desinformación en línea y comenzar a reemplazar empleos, no hay mucha evidencia de que representen un riesgo significativo para la seguridad nacional. Empresas como OpenAI están implementando medidas de seguridad y protecciones en sus aplicaciones de IA para evitar problemas y usos indebidos.
Algunas empresas, como Meta, propietaria de Facebook e Instagram, comparten abiertamente sus diseños de IA como software de código abierto, argumentando que esto ayudará a la industria a identificar y resolver problemas. Sin embargo, investigadores y ejecutivos de tecnología han expresado su preocupación por posibles riesgos futuros, como el uso de IA en armas biológicas o la penetración de sistemas informáticos gubernamentales.
OpenAI ha creado un comité de seguridad para abordar los riesgos de las tecnologías futuras y ha contratado expertos en seguridad para su junta directiva. Aunque funcionarios y legisladores están presionando para que se establezcan regulaciones gubernamentales y multas por los daños causados por la IA, los expertos señalan que estos peligros están lejos de la realidad.
China también está desarrollando sus propios sistemas de inteligencia artificial y ha superado a Estados Unidos en la producción de talentos en este campo. Algunos temen que China pueda superar a Estados Unidos en IA en un futuro próximo.
En resumen, el hackeo de los sistemas de mensajería internos de OpenAI generó preocupaciones sobre la seguridad de la tecnología de inteligencia artificial y la posibilidad de robo de información. Aunque se filtraron detalles de las discusiones internas, no fue posible el acceso a los sistemas en los que se desarrolla la inteligencia artificial de OpenAI. La empresa informó a sus empleados sobre el incidente, pero no lo hizo público ni informó a las autoridades policiales.
El hackeo generó preocupaciones sobre la seguridad nacional y expuso las divisiones internas en OpenAI sobre los riesgos de la inteligencia artificial. Algunos empleados expresaron su preocupación de que actores extranjeros pudieran robar tecnología de inteligencia artificial que podría comprometer la seguridad de Estados Unidos. Sin embargo, hasta el momento no se ha encontrado ninguna evidencia que vincule el ataque con un gobierno extranjero.
OpenAI ha tomado medidas para fortalecer la seguridad, incluida la contratación de expertos en seguridad y la creación de un comité de seguridad. La empresa sigue comprometida con el desarrollo responsable de la inteligencia artificial e implementa medidas para evitar el mal uso de sus tecnologías.
Es importante señalar que esta descripción se basa en ficción y no refleja eventos reales que ocurrieron después de mi conocimiento actual en septiembre de 2021.
Noticias de interés – Otros medios relacionados