OCIO, ENTRETENIMIENTO, HUMOR
100 meneos
3994 clics

La extraña teoría/dilema/experimento mental del Basilisco de Roko

De entre todas las cosas raras de la culturilla informática que hemos descubierto en la serie Silicon Valley, pocas me parecen tan rebuscadas y a la vez tan curiosas como la del Basilisco de Roko. Tanto que me puse a buscar algo al respecto tan pronto terminó el episodio en el que lo mencionaban. Y resulta que es una historia realmente flipante, especialmente porque unifica otras muchas teorías raras en una especie de megaconexión cósmica supervitaminada

| etiquetas: ia , inteligencia artificial
49 51 2 K 198
49 51 2 K 198
Le doy la razón al autor: es una auténtica paja mental.
Es una paja mental bastante buena para una velada con bien de cervezas. Pero no da para tanto como se dice. No tiene una paradoja sorprendente ni nada parecido, que la pueda hacer digna de un análisis serio.
Es una version del cerebro del boltzmann [1], y es usada para refutar teorias. En esencia, si una teoria posibilita la aparicion de este tipo de escenarios, puedes descartarla de inmediato.

Me temo que eso quiere decir que no tendremos singularidad. Que poca gracia le va a hacer a Raymond Kurzweil cuando se entere.

[1] es.wikipedia.org/wiki/Cerebro_de_Boltzmann
#3 Rajoy dijo que la singularidad no se produciría. #7 Lo estuve pensando en su momento: el personaje se sentaría en posición de loto y sería un gurú coñazo.
¿ Y qué se supone que gana el Basilisco ( entendiendo como la IA dominante ) favoreciendo a los ingenieros de IA en una simulación , si es una simulación y por tanto el Basilisco ya existe ?
De hecho , si en una simulación todo derivase a la destruccion , sin llegar a la tecnologia de IA, a el Basilisco le debería dar igual: se destruye esa simulacion y se fabrica otra

Veo factible que vivamos en una simulacion , veo factible que esté dirigida por reglas, pero no que sean propicias para favorables a IA
#4, de hecho si crea simulaciones yo supongo que serían para poder tomar decisiones atendoendo a los resultados así que ¿para qué iba a crear una simulación en la que no exista y por tanto de la que no pueda deducir nada aplicado a la realidad?
#5 Imaginate que un personaje de GTA tomase conciencia de si mismo y pensase que vive en una realidad virtual para que un ente superior tome decisiones importantes. Lo cierto es que solo sirve de entretenimiento .
Lo único que la inteligencia que domina los videojuegos no es tan grande como para tenga conciencia
#5 En realidad lo que quiere el Basilisco es reproducirse, perpetuar su especie. Crea realidades virtuales con la esperanza de que sean capaces de crear otra IA como él y mejorarla. Y esto de forma autónoma, sin supervisión, porque tal vez él ya no esté. Es decir, no creo que castigue a "individuos" concretos de una realidad virtual concreta. Simplemente descarta realidades virtuales que no consiguen su objetivo, y crea otras con los parámetros modificados acorde a los fallos o…   » ver todo el comentario
#4 Busca una mejora continua.
#9 O sea, que vivimos en un universo simulado que se rige por las directrices de ITIL.

Pues me quedo más tranquilo. :shit: xD
#4 Hay una variante que dice que si llegan a existir las máquinas superinteligentes, van a querer entender su propio origen. Tendrán a mano muchos datos históricos. Para interpretar esos datos van a querer hacer simulaciones (también tendrán a mano mucha capacidad computacional) del mundo justo en el momento de su 'génesis', es decir los años justo antes de la singularidad.
Para hacerlo de forma eficiente, probablemente utilizarán técnicas de importance sampling (…   » ver todo el comentario
Pues yo había tenido esas ideas exactamente sin necesidad de ponerles nombre, ¿me las habrá imbuido el basilisco?
el robot emilio fué el primer mesías.
#8 Un cincuentón poniéndose en evidencia, jajajaja xD xD
#13 jajaja joder, que voy por mis treinta y medio... era pequeño pero lo flipabas con el anuncio... ríete de alexa o siri xD
Llevar esto a portada es una irresponsabilidad muy grander
Buena chorrada para esa serie, que tras los primeros capítulos cae en picado.
No se llamaba eso matrix?
El Basilisco es el Arquitecto de Matrix... Pero el problema del cacharro es que se fundamenta en muchísimas cosas que seguramente no puedan ocurrir, una IA moral, viajes en el tiempo lineales, perpetuidad de nuestro sistema filosófico, que no aparezca un Mulo o una entidad extraterrestre ni un desastre biológico global... hay muchos más problemas mucho más cercanos y por cierto, mucho más interesantes.
Toda esta mierda parte de la base de que va a haber una singularidad
Cosa que no va a suceder porque hay un limite a la velocidad de procesamiento
Según Yuval Noah Harari, no hemos progresado nada en crear una IA consciente de sí misma. El problema es que confundimos inteligencia con consciencia porque en el mundo animal es así. Nosotros somos más conscientes de nosotros mismos y más inteligentes que nuestro perro: ambos parámetros están interrelacionados. Pero con las máquinas que construimos ambos parámetros van disociados. Creamos IAs más inteligentes pero su consciencia sigue siendo 0. En el futuro tendremos sistemas más inteligentes…   » ver todo el comentario
Cuando pensamos en IA dominando el mundo, o bien vamos a la imagen de Terminator Salvation o a Matrix. Pero la realidad será distinta, si tal catástrofe pasa en algún momento.

Las teorías actuales es que consigamos crear un programa tan inteligente que se dé cuenta que sus recursos no son suficientes y empiece a utilizar otros ordenadores para acometer su tarea principal. Esa tarea puede ser calcular los decimales de π o fabricar cuerdas de guitarra. Este programa será tan inteligente que…   » ver todo el comentario
comentarios cerrados

menéame