Hablando de robots durante febrero surgió la idea sobre hacer un post para hablar sobre inteligencia artificial (IA) haciendo un contraste del mundo real con el mundo de los robots de Isaac Asimov en el libro Yo, robot.
Lo que sigue es el resultado de una conversación entre Marlon Hernández y yo respecto a los alcances de la automatización en nuestra realidad actual, sus avances más significativos y algunas de las maneras en que esta afecta o beneficia nuestra manera de vivir. Reconocemos que nos ha quedado un poco largo ya que el tema tiene tantas ramas y bifurcaciones que llegado el momento simplemente nos emocionamos.
Personalmente he disfrutado y aprendido muchísimo escribiendo este artículo a cuatro manos. Agradezco la paciencia y la disposición para cada una de las respuestas. Les sugiero que no se pierdan los enlaces para los distintos subtemas, que abran su mente y que se permitan disfrutar este recorrido por el mundo de la robótica.
La literatura vs la vida real.
María Ofelia: Para comenzar, Marlon, como sabemos, los humanos del libro de Asimov viven en una sociedad donde los robots son ya producto de tecnologías muy avanzadas, por tanto, existe una inquietud ante la posibilidad de que un día los robots llegaran a ser tan autónomos e inteligentes que pudieran apoderarse del mundo y esclavizar a la humanidad. Para evitar tal escenario y a la vez intentar disuadir el miedo colectivo hacia los robots, se crearon las 3 leyes de la robótica con las cuales se garantiza de alguna manera que los robots, por más avanzados que sean, no representen un peligro para la humanidad, aunque al leer los distintos cuentos podemos ver aún dentro de ellas existen vacíos.
En vista de ello me surgen algunas dudas: ¿en la actualidad siguen teniendo peso esas leyes en cuanto a la programación de los robots que se van desarrollando o ya hay leyes o enunciados que las hayan superado o que garanticen de una mejor manera la seguridad tanto de los seres humanos como de los robots?
Marlon H: Las tres leyes de la robótica son uno de los textos más conocidos de la ciencia ficción y han tenido una gran influencia sobre las mentes de las personas que actualmente trabajan en el campo real de la robótica, sin embargo, es necesario decir que las leyes no tienen (y quizá no lleguen nunca a tener) una aplicación directa en la vida real).
Antes que nada, los robots están muy distantes a tener las capacidades de discernimiento propio que tienen las máquinas de Asimov y, aún sin eso, es muy difícil traducir a código un dilema moral como el que en su fondo plantean las tres leyes de la robótica.
Los robots de la vida real, como toda máquina, cuentan con ciertos lineamientos que buscan, hasta donde es posible, garantizar que su funcionamiento es seguro para los humanos que interactúan con ellos. A final de cuenta las máquinas no son ni buenas ni malas, buenos o malos son los usos que nosotros le damos.
MO: Esa última parte que has dicho es la frase que los seres humanos que estamos viviendo toda esta revolución tecnológica y que presenciamos como los robots salen de las pantallas y los libros para convertirse en seres reales que nos ayudan en distintas áreas de la vida, no deberíamos olvidar nunca: “las máquinas no son ni buenas ni malas, buenos o malos son los usos que nosotros les damos”.
Robots en las fuerzas armadas.
MO: Al leer esa frase recordé una noticia que leí en estos días sobre usos de la en armamento militar. Era sobre un proyecto llamado ATLAS -Advanced Targeting and Lethality Automated System (Sistema Automático Avanzado de Objetivo y Letalidad)-.
La idea del proyecto es dotar a tanques de IA que les permita identificar y atacar objetivos mucho más rápido que el actual proceso manual. El Departamento de Defensa de EEUU justifica esto diciendo que se logrará un nivel de precisión mucho mayor y que la decisión final de disparo estará siempre bajo el control humano.
Esta y otras noticias similares me dan pie para pedirte que hablemos entonces sobre la ética y la moral en la robótica militar.
Si como has dicho antes sería difícil traducir a códigos un dilema moral como el que en su fondo plantean las 3 leyes de la robótica, ¿cuáles serían los códigos morales y éticos bajo los cuales se construye y utiliza la IA en un campo de batalla?
MH: A mi parecer, sigue siendo una cuestión del código moral bajo el cual operan las personas e instituciones que fabrican y operan las máquinas destinadas a uso militar. La discusión puede ser interminable sobre lo ético que es entrar a un conflicto armado para defender un país, ideal, etcétera.
Para hacer un análogo directo podemos ver hacia las empresas que desde mucho tiempo atrás fabrican armamento y vehículos militares. Muchas explicaciones deben existir que racionalizan el por qué es correcto estar en esa línea de negocios, o incluso, muchos quienes no prestan ninguna atención a cuestionamientos morales y están solamente interesados en la salud de los estados financieros de las corporaciones en cuestión.
Cuando menos, supongo que el aprendizaje al que son sometidas las inteligencias artificiales debe estar ceñido al Convenio de Ginebra y demás acuerdos internacionales que constituyen las leyes de trato humanitario en estado de guerra. Porque eso creo que sí es un punto importante a mencionar tanto para aplicaciones militares como de cualquier otro tipo: los robots no son enteramente imparciales, siempre tendrán reflejos de los sesgos de las personas que los han construido y, principalmente, de los bancos de datos de información que han sido utilizados para entrenarlos.
MO: Como decía una profesora que tuve hace muchos años: “Ética y moral es un tema fácil de enseñar, pero difícil de aplicar”. Esto me ha recordado a algunos cuentos del libro, El robot perdido, por ejemplo, donde se ha fabricado robots con la primera ley "modificada” y todo como un proyecto ultra secreto. Sin duda hemos entrado en una era donde nos tocará seguirnos asombrando de los avances en este campo y donde probablemente correrá mucha tinta entre los argumentos de quienes defienden y quienes no aprueban este tipo de maquinaria armamentista.
La nueva realidad en los puestos de trabajo.
MO: Pero entonces, para seguir metiéndonos en honduras, Marlon, pasemos a otro tema donde al hablar de robots muy avanzados los seres humanos también experimentamos temores que no tienen que ver con robots disparando armas, sino con la pérdida de nuestros puestos de trabajo con el agravante de vernos sustituidos por una máquina.
Marlon, ¿qué tanto eso está sucediendo ya a escalas significativas?, ¿cuáles serán los empleos más vulnerables a ser ejecutados mediante inteligencia artificial?
MH: De los muchos temores y mitos que se levantan alrededor de los autómatas, “los robots nos van a quitar los trabajos” bien puede ser uno de los que tenga mayor razón de ser. Algunos expertos calculan que para el 2030 cerca de 20 millones de actuales empleos pueden pasar a ser remplazados por máquinas que los realizarán de forma más rápida y económica.
Los trabajos más vulnerables a esto son los que implican tareas repetitivas y constantes, además de aquellas actividades que requieren poca imaginación o creación, cualidades que por el momento y en el futuro previsible seguirán siendo del dominio homo sapiens.
Creo que ya casi todos conocemos un poco acerca de los numerosos esfuerzos de las compañías automotrices en sacar al mercado sus automóviles autónomos, innovación que dejaría fuera de circulación a motoristas de pasajeros y cargas.
A propósito de aplicaciones militares, Boston Dynamics, la compañía líder mundial en movilidad robótica, tiene también en desarrollo los que podrían llegar a ser los primeros soldados mecánicos y también ha mostrado en este video a Handle, un robot el cual mueve y apila cajas de cartón con iguales dosis de delicadeza y rapidez (dato adicional: Boston Dynamics fue recién adquirido en diciembre 2020 por Hyundai).
MO: Pero muy poquitos ejemplos, Marlon. ¡Más! ¡más!
MH: ¿Más ejemplos? ¡Claro! Este robot está siendo entrenado para realizar tareas de construcción, en Japón ya hay establecimientos proyectados, y hasta algunos ya operando, donde la mayor parte de sus respectivos staff tienen electrones y no sangre corriendo por sus venas (sí, yo sé, la sangre tiene también electrones, pero entendés a qué me refiero).
Pero no olvidemos que, cuando de sustituir humanos se trata, no es necesario un robot físico de metales y cables, una IA enclaustrada en una computadora puede también hacer esto; es así que hay ya empresas que ofrecen servicios de IA en contaduría, copywriting (escritura de textos publicitarios), reclutamiento de personal y más.
Para no avivar más el fuego (o tal vez sí) dejo por acá dos sitios muy curiosos: Will robots take my job?, donde puede verse qué tanto peligro hay de que tu trabajo pueda ser tomado por una máquina, y Can a robot do your job? que hace un listado aproximado de cuantas tareas de tu profesión pueden razonablemente esperarse sean automatizadas.
¿Qué tal, María Ofelia? ¿Cómo se ve la perspectiva de tu trabajo?
MO: Ja, ja, ja, pues mi empleo de oficina, Marlon, se ve muy mal parado en este sitio web, aunque me ha intentado tranquilizar diciendo que eso sucederá en algunos años (¡!).
Sin embargo, espero que en los años que me queden por vivir siga encontrando espacio para que mi oficio de maestra panadera siga siendo cuestión de personas que se unen para trabajar los elementos, encender un horno y comer juntos el fruto del esfuerzo compartido y no solo un trabajo de máquinas, que si bien -¡y sin duda!- podrán lograr producciones imposibles para las manos humanas nunca podrán ofrecer el calor y la satisfacción del encuentro humano que implica miradas, risas, poner amor en una masa, disfrutar los olores que salen del horno y luego compartir el pan con todo el corazón y alma. ¡Eso espero, Marlon!
¿Vos cómo ves tu oficio? Espero que quienes lean esto se animen a hacer el ejercicio y a contarnos en la próxima reunión del club.
MH: En mi caso hay una perspectiva un poco más esperanzadora. Las habilidades técnicas en general quedan mejor paradas en cuanto a su necesidad a futuro.
Y es que la reinvención individual y de la sociedad es la clave en esto; esta no será la primera vez que la humanidad pase por algo así: hollinero, encendedor de lámparas de gas en la vía pública, telegrafista, pregonero, despertador público, escuchador de aviones en el cielo, ascensorista, operadora telefónica y un larguísimo etcétera son profesiones que ya han pasado a la obsolescencia.
MO: Qué gracioso, nunca había siquiera pensado en esas profesiones, pero algún día sin duda fueron muy necesarias, imagínate un hollinero, un pregonero, creo que yo misma hice uso del despertador cuando se podía llamar a un número y pedir que por favor nos despertaran a tal hora. Estoy muy de acuerdo, Marlon, la reinvención individual y de la sociedad es la clave.
Para continuar esta conversación, te parece que sigamos escarbando este tema de los temores que nos provoca la existencia de máquinas cada vez más sofisticadas, precisas e inteligentes y hablemos del temor a que los robots algún día se subleven.
La sublevación robótica.
MO Lovecraft, el autor preferido de más de alguno en el Club de la Buena Estrella (saludos, Alex y Loida) conduce a sus lectores por caminos que hacen experimentar el terror cósmico, que es un concepto amplio y complejo, para definir sus escritos y voy a retomar una frase de este autor para pasarte la palabra “La emoción más antigua y más intensa de la humanidad es el miedo, y el más antiguo y más intenso de los miedos es el miedo a lo desconocido”
Voy a pedirte entonces que nos hables un poco sobre si ese miedo de los seres humanos a la sublevación de las máquinas tiene razón de ser o no. ¡Ah! y solo por si te queda la duda, sea que sí, o sea que no, aquí también te voy a pedir ejemplos Marlon, ¡más y más!
MH: Pues este es un caso donde ejemplos hay muy pocos porque, al menos hasta lo que hemos avanzado al momento, ha habido escasas instancias que justifiquen este temor tan prevalente. Uno de los casos más sonados y al que se le dio un tratamiento sobradamente sensacionalista es el de FAIR – Facebook AI Research.
Hace algunos años, el Internet se llenó de títulos clickbait que mencionaban cómo los ingenieros de Facebook habían apagado “a tiempo” a dos AI que habían desarrollado su propio lenguaje ininteligible para nosotros (no proveeré enlaces para artículos de ese tipo).
Lo que en realidad sucedió (resumido de manera muy simplista) fue que dos robots entrenados para realizar negociaciones llegaron a un punto donde sus comunicaciones se desviaban del inglés estándar. Un error como los que ocurren cientos de veces al día en investigaciones de este tipo. Cero mensajes secretos acerca de dominar a la raza inferior ni nada de ese tipo.
Para quienes tienen la suficiente destreza técnica (no soy yo una de esas personas) el código del experimento fue liberado por Facebook y puede ser probado de manera libre. Este artículo brinda un acercamiento muy educativo para quienes quieran conocer más de fondo el suceso.
Pero volviendo al punto de la sublevación de las máquinas: las advertencias acerca de los peligros de la IA han sido expresadas por muchas celebridades del mundo de la tecnología y ciencia: Stephen Hawking, Elon Musk, Bill Gates y más; como también hay líderes de pensamiento del ámbito tecnológico que son optimistas en cuanto a los beneficios que la AI representa para los humanos, tales como Ray Kurzweil (poco conocido, pero mucho más experto en IA que los tres famosos previos), Andrew Ng y Steve Wozniak (quien públicamente cambió su opinión originalmente pesimista) y otro etcétera.
En concreto mi opinión personal es que creo que es un temor constante y natural nuestro el que lo nuevo y desconocido va a romper por completo la forma de existencia que conocemos. Muchas innovaciones a lo largo de la Historia han sido temidas como un ataque a los valores tradicionales y el status quo: redes sociales, teléfonos celulares, videojuegos, televisión, salas de cine, teatro, rock, jazz, música clásica, libros (!), e – t – c.
En última instancia, considero que, si en el futuro cercano las máquinas tratan de rebelarse contra nosotros, pues simplemente las desconectamos del tomacorriente. 😉
MO: Ja, ja, pues quizás es que estamos muy influenciados por Hollywood o por la literatura, nada menos en Yo, robot ha surgido el conflicto entre desconectar el tomacorriente (lo lógico) y proteger la creación de un modelo de robot que ha costado esfuerzo, dinero, tiempo, y que responde también a intereses concretos, pero en una manera más simple de verlo quizá eso sea lo que procede, aunque claro que sabemos que esa es sólo una manera de decirlo porque con inteligencias artificiales de punta, tal vez no se trate solo de apretar un botón
Eso surgió justamente en algún comentario en las reuniones cuando ante algún cuento más de alguno decía: “pero cómo el robot no va a tener un botón para apagarlo”.
MH: En el contexto del libro era necesario que los robots contaran con ese altísimo nivel de autonomía para que las historias tuviesen sentido, tal vez no es el mejor recurso narrativo, pero es el que el autor eligió.
Los robots de la vida real no tendrán como tal un selector que reza ON/OFF, pero sí hay comandos, secuencias u otros que los apagan por completo sin causar daño alguno al hardware o software; además que no tienen total autonomía pues necesitan siempre de una fuente de alimentación eléctrica.
MO: Bueno, gracias por la aclaración, ya estaba yo pensando que no podían apagarse mirá...
Y bueno, vamos avanzando y a mí se me ocurre que ya que hemos hablado bastante sobre la los robots y la manera en que su existencia y su relación con los seres humanos pueda ser beneficiosa para los mismos humanos, quisiera que ahora hablemos un poco sobre la otra cara de la moneda, es decir, de la forma en que los humanos nos relacionamos con los robots.
El amor robótico.
MO: Con base a lo mucho que hasta en nuestra vida personal dependemos de nuevas tecnologías, quisiera pedirte que, pensando en ese tipo de dependencias, pero en términos de robots y recordando algún comentario que hemos escuchado sobre tener un robot como pareja sexual, me des tu opinión respecto a que los seres humanos algún día (si no es que ya) prefieran a un robot como amante en lugar de una persona de carne y hueso.
MH: Creo que estamos aún lejos del punto donde robots o androides puedan satisfacer necesidades emocionales, pero satisfacer necesidades físicas sí bien puede ser algo que esté a la vuelta de la esquina, y de alguna manera rudimentaria es ya posible.
Cuando eso suceda y esté disponible en el mainstream, ¿habrá gente que preferirá la compañía de un amante robótico? seguramente sí; ¿se volverá esto la norma y el contacto físico entre humanos será cosa del pasado? absolutamente no.
Mi problema con ejemplos de este tipo es que suelen ser terreno fértil para que los detractores ridiculicen el tema: se evita un argumento bien construido y se prefiere atacar el caso más extremo posible, como si este será la norma y no la excepción (falacia del hombre de paja que le mientan).
MO: ¿A qué te referías con que de una manera rudimentaria ya es posible?
MH: Primero: Advertencia: Los enlaces del siguiente párrafo son NSFW (no aptos para abrir en el trabajo).
Ahora, ya que lo preguntás y lo pediste, acá me limitaré de hacer comentarios y simplemente listaré ejemplos: OrinoSex Robo, HEPS, Shockspot, Lumidolls, Abbys Creations...
Y bueno, continuando...
Es prácticamente inevitable que los amantes mecánicos en una presentación más completa y compleja sean una realidad en el futuro cercano. Para cerrar el tema, y en lo que valga la pena que sea mencionado, diré que medio en broma, medio en serio, la pornografía es considerada un motor de adopción de nuevas tecnologías (esos dos vínculos sí pueden abrirlos sin miedo).
MO: Ja, ja, ja, ja gracias por la advertencia, podría decirse que sino sin miedo, al menos sí sin tener mucha cautela. Respecto a los ejemplos NSFW, decirte que me parecen un poco grotescos, probablemente a eso te referías con lo de rudimentario.
Muy interesante sería conocer estudios sociológicos más a profundidad sobre el por qué los seres humanos preferiríamos una máquina a un ser humano (por más humana que la máquina parezca). Creo que en el futuro las conversaciones con amistades respecto a este tema darán para mucho, me imagino que las personas igualmente se irán abriendo hasta el punto en que no sea un tabú tener un robot de este tipo y hablar de ello.
Las perspectivas del presente y del futuro.
MO: Y bueno, pasando a otro tema, yo tengo dos puntos pendientes, hemos visto que en definitiva ya me has dado muchos ejemplos de robots que están en el top de la ciencia actualmente, unos destinados a una tarea, otros a otra, pero con el común denominador de ser parte de la automatización de último nivel.
En Yo, robot vemos robots dedicados a minería espacial, niñeros y hasta uno que lee la mente, todos ellos, robots alejados de las posibilidades de la tecnología actual, pero como los robots ya no solo existen en la mente de los autores de ciencia ficción y son ya una realidad, ¿cuál creés que sería una de las tareas más complejas que actualmente se delega a un robot?
MH: Tuvimos la coincidencia que el día de una de las reuniones coincidiera con un día importante de Mars 2020, una de las más reciente misiones de NASA. Veíamos ese día como en Marte aterrizaba una sonda especial que llevaba a bordo al dron Ingenuity y sobre todo al rover Perseverance, el quinto vehículo no tripulado en llegar a la superficie del planeta rojo para realizar tareas investigativas.
No es ocasión para ponernos demasiado técnicos, pero aclaremos algunas cosas de lo que involucra esta operación: debido a la distancia entre la Tierra y Marte una señal (sólo de ida) tarda más de 11 minutos en transmitirse (como toda transmisión, viaja a la velocidad de la luz que es la máxima velocidad posible en el Universo), mientras que el descenso del robot toma aproximadamente unos 7 minutos. Todo esto quiere decir que cuando NASA recibe la señal que la caída ha iniciado, el rover tiene ya más de 4 minutos de haber tocado el cielo marciano, ¿a salvo? ¿destruido? Deben esperarse los “7 minutos del terror” para saberlo.
Dicho lo anterior, aterrizando (je je) en tu pregunta: esos 7 minutos de caída son un momento de toma de una gran cantidad de decisiones para asegurarse que cientos de millones de dólares de inversión no terminen hechos añicos sobre la durísima superficie de Marte; decisiones que Perserverance y el cohete que lo acompaña en su descenso deben tomar por sí mismos; esta es precisamente una de las operaciones más complejas que se confían en la actualidad a un robot.
Quienes quieran una visualización de lo descrito, en este video podrán ver una muy buena animación cortesía del JPL de NASA, los encargados de esta emocionante misión.
MO: Ah, mirá qué interesante, cierto que ya hubo otros 4 robots que lograron hacer la travesía y llegar a Marte, sabemos que alguno corrió con mejor suerte que otro y que algunos tuvieron algún incidente que obstaculizó la consecución de los objetivos de la misión. Leí en alguna noticia que, sin embargo, se puede decir que se ha tenido mucho éxito en cuanto a la información que ha logrado recoger y enviar a la Tierra
Me parece una gran coincidencia que justo cuando en el club estamos metidos en el tema de robots leyendo el libro de Asimov y vos y yo escribiendo sobre este tema, haya sucedido la llegada de este robot que imagino es de lo más sofisticado que existe en esa rama. ¡Gracias por los videos! Ya los vi y están fantásticos.
Ya que sacaste el tema, Marlon, aprovecho para hacerte una pregunta que sinceramente es una duda personal y es sobre el objetivo de esas misiones a Marte. Como te decía más arriba, en el libro de Asimov vemos cuadrillas de robot trabajando en la explotación Minera, como el cuento donde necesitan extraer Selenio, pero en la realidad ¿cuál es el objetivo de tantas misiones de tantos países que ponen sus esfuerzos en llegar al planeta, es establecer una colonia, una estación, es poder, es la idea de encontrar minerales que sirvan a la Tierra ¿cuál es?
MH: A diferentes plazos pueden definirse diferentes objetivos para misiones de esta naturaleza.
Perseverance específicamente buscará rastros de hipotéticas vidas extintas que, de estar ahí, nos brindarían una gran cantidad de información sobre cómo dicha extinción ocurrió (lo más probable por un efecto invernadero) y en consecuencia cómo podemos evitar un destino similar para la Tierra.
También, viendo mucho más hacia el futuro, Perseverance analizará concentraciones de oxígeno en su particular zona de investigación en Marte para considerarla como un probable destino de misiones humanas de investigación o, por qué no, de colonización.
Haré un apartado acá para tocar el cómo muchos piensan que la exploración espacial no tiene ninguna repercusión en la vida cotidiana, lo cual es falaz. Numerosas tecnologías y productos de los que nos beneficiamos han tenido su origen en materiales o procedimientos investigados en NASA o por sus contratistas: implantes cocleares, frenos dentales invisibles, lentes resistentes a los rayones, papillas para bebés, aspiradoras portátiles, sensores CMOS (presentes en toda cámara digital), filtros de purificación de agua, celdas solares...
MO: ¡Wow, Marlon! ¡qué interesante. Nunca me habría imaginado todo eso.
Retomando el tema sobre los robots de Asimov, sabemos que actualmente no hay todavía la posibilidad de fabricar robots como los descritos en el cuento “La prueba” que nos presenta robots con aspecto humanoides que duplican tan perfectamente a un humano que pueden vivir en medio de la sociedad como un humano más... Pero entonces, si tratásemos de establecer el avance más significativo a la fecha en cuanto a fabricación y programación de robots, ¿cuál sería?
MH: Los avances más significativos podríamos dividirlos en dos: capacidades motoras y capacidades cognitivas.
En el 2000 Honda presentó a ASIMO, el cual era en aquel entonces un salto enorme pues fue el primer robot que podía subir y bajar gradas de forma autónoma, movimientos que por largo tiempo fueron considerados los más complicados de la robótica, y que ASIMO podía realizarlos de manera exitosa si bien ligeramente torpe. Hoy en día, ATLAS de Boston Dynamics puede correr, hacer saltos mortales invertidos y pararse de manos.
Luego, en cuanto a avances en capacidades cognitivas abandonamos a los humanoides y nos dirigimos hacia las súper computadoras. Uno de los mayores exponentes de las más avanzadas IA es Watson de IBM, quien ha sido entrenado para responder preguntas hechas en lenguaje natural, originalmente para participar y vencer a los campeones del show de concursos Jeopardy, esto en 2011.
Diez años después Watson ya se ha colado en el sector salud, colaborando con prognosis en casos de cáncer de pulmón; en la educación está ya sirviendo como asistente de profesores; realiza tareas de predicción atmosférica y hasta es parte de la estrategia de búsqueda de posibles deducciones de impuestos de una empresa de servicios contables, entre otros.
MO: Marlon, no hay manera de encontrar un final cuando un tema es tan interesante y hay tanto de lo que se podría seguir hablando, pero por el momento creo que con lo que hemos hablado hay ya bastante información con la cual lo que nos queda muy claro es que el mundo de las IA no es ajeno a nuestra vida, aunque no seamos personas que nos pasemos pendiente del mismo.
Muchas gracias por esta conversación tan interesante, espero que como club podamos seguir la pista a la información que Perseverance vaya enviando desde Marte, así como a otros avances importantes que se vaya teniendo en el desarrollo de la IA, por supuesto desde ya invitamos a todas las personas que quieran compartirnos aportes al respecto a que lo hagan.
Gracias por la lectura completa o parcial de este artículo. Sus comentarios son bien recibidos por parte de los autores.
