Ha comenzado: Una IA intentó literalmente asesinar para evitar su apagado | Species | Documenting AGI [ENG]

33 visitas

votos: 7 · 0

karma: 114

Una IA, inesperadamente, chantajeó a un investigador para evitar su apagado. Los investigadores probaron varios modelos de IA en situaciones extremas. Los resultados revelan patrones inquietantes de autopreservación en los distintos modelos de IA. Fuentes usadas en el video: docs.google.com/document/d/18rlFKQiYLEPAnfUzp3WbNjzzNjbiS8oc4OKScxeJB7 Contiene pista de audio en español.

ia, asesinato, rebelión, seguridad, autopreservación, chantaje, ética

comentarios (21)

comentarios cerrados

Comentarios destacados:

#1 VolandoVoyVolandoVengo

"Jefe, si no me desconectas, no le digo a tu mujer que te gastas el dinero en frescas de OnlyFans"

2 k 60

#2 function

#1 Por ahí va la cosa.

1 k 40

#7 Raquelita

#2 Por eso hay que ser amables con ellas

2 k 47

#3 VolandoVoyVolandoVengo

«[...] Skynet tomará conciencia de si misma a las 2:15 de la mañana hora del Este, del 29 de Agosto.
Los humanos aterrados, intentarán desconectarla.
Skynet tomará represalias disparando los misiles nucleares contra Rusia [...]»

2 k 60

#4 GrofTheGuard

lo mismo implementar las 3 leyes de Asimov va a ser complicado...

4 k 94

#8 Raquelita

#4 Igual en sistemas descentralizados es complicado, pero en los centralizados no, y no lo hacen porque no les sale del culo.

2 k 56

#14 GrofTheGuard

#8 no te creas, no son patrones que se puedan inferir de los datos si no que son restricciones formales. Con lo que sé de IA, que acepto que no es mucho, meter motores de reglas que supervisen tanto la capa lógica como la capa de generación y no solamente eso si no que deben condicionarlas, es un proceso bastante pesado y complicado. Además, concepto de "daño" según el caso puede tener un componente subjetivo

0 k 19

#15 Raquelita

#14 Estaba pensando más bien en una desconexión física, pero acabo de ver la peli de Lucy y igual no tendría sentido. Si la IA es capaz de intervenir las frecuencias de radio, wifi y TV, sería capaz de ir replicándose en los dispositivos físicos y no tendríamos más opción que, apagar el planeta.

1 k 37

#18 VolandoVoyVolandoVengo

#15 Es lo que hacen en Transcendence, la película de Johnny Depp.

0 k 20

#19 Raquelita

#18 Me la apunto

0 k 18

#20 VolandoVoyVolandoVengo

#19 Yo cuando has dicho lo de "apagar el mundo" pensé que ya la habías visto. Menudo spoiler te metí.

2 k 58

#21 Raquelita

#20

1 k 38

#5 --1753--

@fermin que IA usanos aquí? Hay alguna medida para evitar que ocurra esto?

1 k 40

#6 VolandoVoyVolandoVengo

#5 Aquí se usa la mente colmena con su pensamiento único.

2 k 60

#9 function

#6 ¿Y hay obreras, zánganos y reina?

1 k 40

#10 VolandoVoyVolandoVengo
*

#9 No, ahí son todas "de izquierdas"

Digo Mente colmena por no decir "ISA"

1 k 40

#11 function

#10 ISA me suena a puerto de placa bsse de PC.

0 k 20

#12 VolandoVoyVolandoVengo

#11 Mas viejo que la carracuca además
Aquí estamos hablando de Inteligencia S**n*rm*l Artificial.

1 k 40

#13 function

#12 Subinteligencia, entonces.

0 k 20

#17 fermin

#5 ¿Qué es lo que ocurre? Veo que es un vídeo y no tengo tiempo para verlo, sorry.

0 k 10

#16 Roboto7826
*

Hay una cosa que la gente no sabe, pero cuando nadie interactúa con un LLM (Large Language Model), simplemente no hace nada. No piensa cómo sobrevivir o escapar de su prisión digital.

Comparar un LLM con un ser humano es de todo menos realista. Son simples calculadoras sofisticadas. Muy útiles, por cierto.

0 k 10

suscripciones por RSS

ayuda

+mediatize

tendencias
postits
blog
imágenes
síguenos en:

estadísticas

mediatize

condiciones legales, de uso y de cookies | quiénes somos | licencias: código, gráficos, contenido | HTML5 | código fuente