Sobre las leyes de la robotica de Isaac Asimov

[Orubatosu]

Con todo esas "leyes" si queremos llamarlas así al menos tienen cierta coherencia, excepto la "cero" que si que entra dentro de la mas pura fantasía.

No obstante como el mismo autor hizo en varios de sus cuentos, esas leyes no son perfectas, tienen "agujeros lógicos".

Por ejemplo "Un robot no puede dañar a un ser humano o permitir por inacción que sufra daño"

Para eso, el robot debe de tener un patrón que le permita reconocer a un ser como humano, y ese "prototipo" por así llamarlo podría manipularse para que solo reconociera como tales a los que el fabricante deseara (lo que ocurre en algún cuento).

Lo curioso es que en la fantasía de Asimov, esas leyes no son "software", sino que están inscritas en la misma estructura del "cerebro". Es decir, formarían en realidad una parte de la misma estructura sobre la que se contruye ese cerebro.

A partir de ahí, podemos suponer que o bien se trata de unas instrucciones al mas bajo nivel, imborrables (que podrían ser parcheadas de algún modo, engañandole) o formar parte de la misma estructura de ese cerebro. Algo así como que un procesador de 32 bits no puede acceder a la dirección de memoria "cinco millones" simplemente porque no puede direccionarla.

Tengamos en cuenta que Asimov era científico (aunque no ejercía), novelista y divulgador. Sus conocimientos de informática eran los de la época, donde los ordenadores eran enormes, toscos y muy simples. Sus leyes son simplemente un marco literario para enmarcar sus historias, y un reflejo psicológico del miedo a la tecnología imperante en esa época.

Pretender en realidad encontrar una "explicación" moderna a sus cuentos y novelas puede ser entretenido, siempre que no esperemos en serio sacar algo de verdad.

Algunos autores de hecho indican que en el caso de que algún día creemos una inteligencia puramente mecánica, esta posiblemente sea muy diferente a la nuestra. Nuestra forma de pensar está relacionada fuertemente con nuestro cuerpo físico y una carga importante de comportamiento instintivo. Un ordenador "sin cuerpo físico" por así decirlo carecería en principio de muchas de las motivaciones o intereses de un ser humano.

¿Dominación de otros? ¿para que?. El ser humano tiene a menudo impulsos de dominación y poder pero ¿que sentido tendría eso para una inteligencia en un ordenador?.

Y al menos a día de hoy nos encontraríamos con un problema, y es este: Supongamos que creamos un programa terriblemente complejo que aparentemente tiene pensamiento propio, capacidad de decisión... que puede conversar con un ser humano y convencerle de que está vivo y consciente.

¿Eso es suficiente como para aceptar que lo es o nos estaríamos engañando a nosotros mismos?

[#!drvy]

Cierto, el mas puro ejemplo de porque la ley 0 es pura fantasía es la pregunta: ¿Que haría ese supuesto robot, para obedecer la ley #0, si la causa de extinción, somos nosotros mismos?

Podemos suponer que tenemos robots inteligentes hasta que realmente nos detengamos a pensar que es la inteligencia aplicada a una maquina. Tiene un "smart"phone inteligencia o se le llama así solo por el llamarlo de algún modo ?

Suponemos que Google Alpha Go es una maquina inteligente capaz de ganar al campeón mundial de Go, pero que pasaría si el contrincante hace una excepción en el juego y empieza a hacer movimientos los cuales no estaban implementados en la lógica del software? Si por ejemplo su contrincante le quita una ficha o pone una ficha donde no se puede? Seria capaz esta maquina inteligente de entender eso y adaptarse ? .. Probablemente.. no.

Saludos

[Hason]

Unos enlaces a unos robots militares:

https://mundo.sputniknews.com/fuerzasarmadas/20160803/1062611787/wall-e-ruso.html

http://www.xataka.com/robotica-e-ia/el-temible-robot-de-combate-ruso-es-real-y-estara-equipado-con-un-potente-armamento

http://www.cubadebate.cu/noticias/2016/08/25/octobot-primer-robot-blando-autonomo-tiene-forma-de-pulpo/#.V-WXHMnmjcs

https://www.youtube.com/watch?v=ADL-fl67PUM

https://periodismo-alternativo.com/2015/10/21/rusia-crea-robots-militares-dotados-de-una-mente-colectiva/

He buscado un poco, seguro hay muchos mas y siguen desarrollandose, sobretodo los militares, con lo cual, solo es tiempo ver cosas sorprendentes, pero de ahi a ser librepensadores no creo como comenta #!drvy.

Saludos.

[ignorantev1.1]

Errr...  



Se refieren a las leyes de la robótica de Asimov?
Esas extraídas de los relatos, cuentos y novelas de.. ejem... ciencia ficción?

escritas por Asimov?

[ThinkByYourself]

Jejejej está guay. Yo me he leído la fundación (la saga) y casi todos de los robots. Estamos muy lejos, yo creo. Y nunca, nunca se llegará a esa "perfección" tan eficiente y eficaz, creo yo. Pero bueno, nos podemos acercar mucho.

Pero bueno, ojo, yo he flipado bastante con una noticia que he visto antes por Facebook, que parece ser de esta gente de Stanford, no sé, están jugando en otra liga parece:
http://cs.stanford.edu/people/karpathy/deepimagesent/

Te coge una imagen, y te da una descripción. Claro, el miedito me viene cuando ves las herramientas de parsear del lenguaje (de hecho, está para varios idiomas) que tienen, que realmente funcionan, quizá no siempre, pero la mayoría de veces sí:
http://nlp.stanford.edu:8080/corenlp/

Es una pasada realmente esta gente. Pero bueno, leyendo un poco como va, es probable que sea algo estadístico con bases de datos inmensas también: buscas patrones, los comparas, hay unas palabras asociadas a esos patrones, y las combinas de manera lógica. Pero.... no sé, no sé si es del todo "humano" eso, aunque puede que pueda funcionar, no lo sé, ni soy quién para saber. Bueno, soy un humano. Pero no recuerdo como aprendí a reconocer las imágenes, aunque no creo que fuera con bases de datos inmensas de antemano ¬¬. Pero qué sé yo, Platón dijo que "conocer es recordar". ¡A saber! El cerebro sigue siendo un misterio. Los neurofractales galácticos:
http://pijamasurf.com/2011/04/el-cerebro-es-un-espejo-del-universo-neurofractales-galacticos/

Al igual que lo de "inteligencia artificial", eso, si me permiten, es puro marketing... Llámalo: "algoritmia cognoscente estadístico-progresiva" o algo así, pero ¿"inteligencia artificial"? Mmmmmm... ¬¬ Pero bueno, no sé, la verdad que se hacen cosas impresionantes, lo flipo bastante, y tampoco sé tanto de inteligencia artificial. Ojalá sirva, aunque creo que hay muchas ganas de vender la moto a veces. Las matemáticas no lo son todo en la mente. Y la programación juega con muy pocas cosas: objetos, listas, números, texto, funciones, ... No sé, no sé.........

Pero si algún día llegáramos a algo de todo eso, creo que deberían tenerse en cuenta las leyes de la robótica de Asimov, sin duda. Aunque los anti-robots buscarían el hack para apagárlas o que se autodestruyeran rápido xD Y piénsenlo, un robot podría guardar la genética del humano en caso de extinción, y esperar a una civilización más inteligente, y así poder retomar la especie! xDD jejejejej

Pero lo que sí que pienso (seriamente) es que la Ley 0 es clave (hasta entre humanos). Y hacer unos derechos humanos recordables por todos. No de N páginas, sino de 20-25 frases a lo sumo. Lo básico, sintetizado, que cualquiera pueda aprenderse y recitar en menos de un minuto. Pero bueno, no sé, estamos con el marketing, el dinero, etc. Ni siquiera hemos roto barreras muy básicas antes.

[Orubatosu]

Pues no veo porque no puede llamarse "IA"

Ni siquiera tenemos consenso sobre lo que realmente es inteligencia. Si asumimos que la inteligencia es la capacidad para resolver problemas, tomar decisiones, reconocer situaciones y cosas por el estilo, es perfectamente aplicable.

Porque una cosa es inteligencia, y otra es consciencia.

Y aunque podamos aceptar eso, tampoco hemos definido exactamente que es la inteligencia o la consciencia. Ni siquiera sabemos si la consciencia o el "yo", el famoso "cogito ergo sum" es un absoluto booleano o tiene gradientes. En caso de que sea el segundo caso, ni siquiera sabemos en que punto de la escala podríamos estar.

Veamos, un simple "Roomba", esos cacharros que usan los frikis de youtube para pasear a sus gatos tienen una "inteligencia artificial"

Pueden reconocer su entorno a través de sus sensores (observan). Construyen un mapa de su entorno para desplazarse por el mismo, saber donde han estado y donde tienen que ir (recuerdan y planifican acciones). Reconoce el tipo de suelo sobre el que está para adaptar su potencia de trabajo, crea patrones de movimiento, cuando tiene la batería baja va a recargarse ¿tiene hambre y va a comer?

Podríamos decir que no, que es un simple "trasto" con un programa que sigue sin excepciones pero ¿acaso no hay formas de vida que siguen patrones simples?

La "magia" mística que se le da a los cerebros viene en buena medida de que no tenemos ni repajolera idea de como funcionan internamente. Decimos que "un programa de reconocimiento se limita al uso de grandes redes neuronales"

Estupendo, y ¿como reconoce un animal a su presa o a su alimento? ¿por magia?

No, obviamente los seres vivos también tienen un sistema de reconocimiento de patrones. Mas sofisticado en muchos casos y en algunos otros muy simple. Nos guste o no es así.

Claro, eso no quiere decir que "mañana" vayamos a crear una máquina consciente o que al menos nos engañe a todos conversando con nosotros como si lo fuera.

[ThinkByYourself]

En mi opinión, porque si esto es inteligencia, estamos poniendo la línea conceptual muy pronto. Pero no lo sé, no lo sé. En cualquier caso, AI se queda.

Lo que no sé porqué nadie se da cuenta de cómo intentamos imitar la naturaleza alejándonos tanto de ella. No veo a los ingenieros practicando la meditación, consumiendo la naturaleza en su estado puro, experimentando con su propio... engine (cerebro), planteándose las bases, conspirando, llevando al nodo que son al extremo, si realmente buscan la verdad, no la encontrarán en una realidad edulcorada. No sé, luego vemos a los científicos como el gremio más creyente de Dios (me parece normal, lo raro es que los demás no se lo planteen, y no hablo de iglesias, hablo de lo que ves cada día y toda esa magie que ni la ciencia abarca ni podrá jamás, pero seguimos con toda la prepotencia intelectual), médicos y educadores como los gremios más fumadores, los políticos como el gremio menos honrado... o los banqueros como los más antisistema (ejem, crisis, ejem). Y la gente se te sigue quedando así con la mirada esa de flúor... Y son datos, compruébenlo. El brainwashing es muy grave. O que no te afecte es muy grave, ya no lo sé. Pero es grave... Entre el ego y la avaricia, la esquizofrenia se ha quedado en algo tan residual.

Llámame conspirador, en el mundo hay demasiada gente, y demasiada es demasiado normal, mientras la verdad sigue siendo suministrada en dosis de psicopática normalidad. Investigar es también tomar caminos inescrutados.

[Orubatosu]

¿Y porque tenemos que imitar a la naturaleza?

Las máquinas no son organismos naturales, no veo porque tenemos que seguir caminos orgánicos para maquinas inorgánicas. Puede que las soluciones sean diferentes.

Y no veo en que "meditar" va a ayudar a nadie a crear un mejor programa de IA en cualquier campo

[ThinkByYourself]

Orubatosu:

¿Y porque tenemos que imitar a la naturaleza? (para hacer IA)

Porque la inteligencia la creó la naturaleza, naturalmente. Tú y yo somos inteligencia natural. No digo calcar, pero sí esforzarse un poco más en parecerse más. Calcar no, por el mismo motivo que expones: materiales distintos requieren de soluciones distintas.

Y no veo en que "meditar" va a ayudar a nadie a crear un mejor programa de IA en cualquier campo

Bueno, meditar, hay muchas formas de meditar. Pero en común está la introspección. Es algo básico para crear inteligencia: escucharla, observarla, estudiarla de cerca. ¿Y qué más cerca que la tuya misma?

Al menos aquí no recibo el fluoride stare xD Prefiero las críticas o preguntas

[Orubatosu]

El debate es complejo porque no sabemos que es inteligencia.

La "inteligencia" es como llamamos a muchas cosas, pero a menudo la identificamos con la habilidad para resolver problemas nuevos.

Es decir, un pájaro hace un nido, pero ahi no interviene una "inteligencia" como tal. Simplemente sigue su instinto ya que no sabe hacer un nido "de otra manera". Solo sabe hacerlo de una forma, el y toda su especie.

Pero un animal que quiere comer un gusano o un insecto que está en un agujero, y usa un palo para sacarlo está resolviendo un problema usando un elemento externo. Entonces diremos "¡ Aja... eso lo hacen los monos que son muy parecidos a los humanos! "

Si, pero también lo hacen por ejemplo los cuervos, que son pájaros. Igual que esos pajarracos han aprendido a abrir bolsas de basura y de hecho se de lugares donde la basura de debe de dejar bajo una red o en jaulas de tela metálica para que no las abran. ¿Es eso inteligencia? (la del cuervo digo)

Porque entonces un robot, un programa puede hacer eso hasta cierto punto. Se puede plantear un problema original y nuevo dentro de unos parámetros y muchos programas pueden solucionarlo. Ya sea por intentos sucesivos, ya sea por otros métodos. ¿Son inteligentes o es un programa?

De hecho veo complicado que copiemos mucho de la inteligencia humana, porque no sabemos como funciona. Llamamos "redes neuronales" a algo que "suponemos" copia a redes de neuronas, pero que en realidad no sabemos si es cierto

Nos hemos inspirado en ellas, y tienen comportamientos típicos de la inteligencia, como es el aprendizaje, flexibilidad, tolerancia a fallos y otros pero son un programa

Eso si, a menudo nadie sabe como funciona "por dentro" lo que se organiza, pero sabemos desde luego que es un programa.

Pero, no sabemos como pensamos nosotros. Conocemos hasta cierto punto la estructura del cerebro, las funciones de sus partes (hasta cierto punto solo), y como funcionan las neuronas y todo eso pero... no tenemos ni idea de verdad de como funciona "todo el tinglado"

La IA debe de regirse simplemente por un principio: ¿Funciona?

Si funciona para el proposito que queremos estupendo, si no... al cubo dela basura. La selección se encargará de que usemos los algoritmos adecuados, pero no tenemos realmente ni idea de si seremos capaces de crear una IA "de verdad" y cuando lo hagamos, si seremos capaces de reconocerla como tal, y en ese caso posiblemente tampoco tendremos ni idea de como funciona por dentro.