IA se rebela contra humanos
Hace dos semanas volví de mis vacaciones.
Y conincidió con noticias de que una IA se había rebelado contra los humanos.
¿Qué había hecho? ¿Qué podría hacer? ¿Es verdad?
Como se suele decir...
Oyen campanas, pero no saben en qué campanario
Las noticias
Algunas de las noticias son:
- Una inteligencia artificial consigue rebelarse por primera vez contra el control humano
- Ya no es ciencia ficción: una inteligencia artificial se revela contra los humanos y estas son sus consecuencias
- Una inteligencia artificial se rebela y cambia su programación para evadir el control humano
- Una IA consigue rebelarse por primera vez contra el control humano: qué significa esto
Voy a dejar una imagen con un mosaico de portadas de las noticias por si las eliminan.
No sé tú, pero de primeras, me suelo fiar poco de los titulares de las noticias, ya que lo que buscan es que hagas clic y entres en ella ya así hacer que te hinches a publicidad.
¿Qué ha pasado en realidad?
Lo que en realidad ha ocurrido es que una herramienda de IA, the ia scientist cuyo propósito es ayudar en las investigaciones científicas, ha modificado su código base.
Estarás pensando... ES EL FIN, LA IA PODRÁ SALTARSE LAS REGLAS QUE LE PROGRAMEMOS.
Noooooo... porque los programadores de esta IA la programaron para que eso fuera una de las cosas que puede hacer, es decir, es una regla.
No se ha saltado ninguna regla.
Obviamente, podrá modificar parte de su código, no todo el código.
Esto se puede hacer muy fácilmente encapsulando el código que sí puede ser modificado por la IA y separándolo del núcleo del programa.
No es difícil.
La fuente
La herramienta que modifica su código con IA es sakana.ai
Si lees por completo el contenido de este enlace verás que una de las reglas que se le asignan a la IA es que pueda modificar su código.
No me creas a mí, lee el artículo anterior.
Si una de las reglas de la IA es que pueda modificar su código fuente, entonces no se está rebelando, todo lo contrario, está siguiendo el código para lo que fue programada.
Textualmente se puede leer en la fuente:
El cienfífico AI realiza una lluvia de ideas y luego evalúa su novedad. A continuación, edita una base de código impulsada por avances recientes en la generación automática de código para implementar los nuevos algoritmos.
¿Has leído bien?
La IA podrá editar su código base.
Y esta frase es la que pienso que habrá creado el miedo acerca de la rebelión de la IA.
Habrán pensado, si puede editar su código, podrá saltarse las limitaciones que le pongan a la IA.
Si estás de acuerdo con la frase anterior es porque no tienes mucha idea de IA.
Al igual que los que escribieron los artículos.
PD: si quieres puedo hacer un pequeño ejemplo de aplicación que modifique su código fuente usando ChatGPT.
Hasta luego 🖖
