Crearon el suyo entre ellos. La inteligencia artificial de Facebook se ha vuelto rebelde e inventó su propio lenguaje. Inteligencia artificial en China

• Los enlaces externos se abrirán en una ventana separada. Acerca de cómo compartir Cerrar ventana

Derechos de autor de la ilustración Biblioteca de fotografías científicas Captura de imagen Los expertos evalúan de forma diferente el impacto de los sistemas de inteligencia artificial

Bob: puedoPoder IItodo el resto.

Alice: Las bolas tienen cero para mí para mí para mí para mí para mí.

Como explica Digital Journal, los sistemas de inteligencia artificial se basan en el principio de “recompensa”, es decir, continúan actuando con la condición de que les reporte un cierto “beneficio”. En cierto momento, no recibieron una señal de estímulo por parte de los operadores para utilizar el inglés, por lo que decidieron crear el suyo propio.

Tech Times señala que inicialmente los robots no tenían restricciones a la hora de elegir un idioma, por lo que poco a poco crearon su propio idioma en el que podían comunicarse más fácil y más rápido que en inglés.

"La mayor amenaza"

Los expertos temen que si los bots comienzan a comunicarse activamente en su propio idioma, gradualmente se volverán más independientes y podrán funcionar fuera del control de los especialistas en TI. Además, ni siquiera los ingenieros experimentados pueden controlar completamente el proceso de pensamiento de los robots.

Hace unos días, el director ejecutivo de Facebook, Mark Zuckerberg, y el fundador de SpaceX, Tesla y PayPal, Elon Musk, discutieron sobre la inteligencia artificial.

Musk pidió a las autoridades estadounidenses que fortalezcan la regulación de los sistemas de inteligencia artificial, advirtiendo que la IA representa una amenaza para la humanidad. Sobre la posible amenaza de la inteligencia artificial antes.

En su intervención en la cumbre de la Asociación Nacional de Gobernadores de Estados Unidos, Musk calificó la inteligencia artificial como "la mayor amenaza que enfrenta la civilización". Según él, si no se interviene a tiempo en el desarrollo de estos sistemas, será demasiado tarde.

"Sigo dando la alarma, pero hasta que la gente vea robots caminando por las calles y matando gente, no sabrán cómo reaccionar [ante la inteligencia artificial]", dijo.

Las declaraciones de Musk irritaron al fundador de Facebook, Mark Zuckerberg, quien las calificó de "bastante irresponsables".

"En los próximos cinco o diez años, la inteligencia artificial sólo mejorará la vida", replicó Zuckerberg.

Traducción de artificial

El otoño pasado se supo que el motor de búsqueda de Internet Google había creado su propio sistema de inteligencia artificial para mejorar el trabajo del traductor en línea Google Translate.

El nuevo sistema le permite traducir la frase completa, mientras que anteriormente el traductor dividía todas las oraciones en palabras y frases individuales, lo que reducía la calidad de la traducción.

Para traducir una oración completa, el nuevo sistema de Google ha inventado su propio idioma, lo que le permite navegar más rápido y con mayor precisión entre los dos idiomas desde o hacia los que necesita traducir.

Los expertos ya advierten que con el rápido desarrollo de los servicios de traducción en línea, el trabajo de traductores en vivo puede tener cada vez menos demanda.

Sin embargo, hasta ahora estos sistemas producen resultados de alta calidad principalmente para textos pequeños y sencillos.

La dirección de la red social Facebook se vio obligada a desactivar su sistema de inteligencia artificial después de que las máquinas empezaran a comunicarse en un idioma propio, inexistente y que la gente no entendía, escribe el servicio ruso de la BBC.

El sistema utiliza chatbots, que fueron creados originalmente para comunicarse con personas reales, pero gradualmente comenzaron a comunicarse entre sí.

Al principio se comunicaban en inglés, pero en algún momento comenzaron a mantener correspondencia en un idioma que ellos mismos crearon en el proceso de desarrollo del programa.

En los medios estadounidenses aparecieron extractos de “diálogos” entre interlocutores virtuales (se conserva la ortografía y la puntuación).

Bob: Puedo hacer todo lo demás.

Alice: Las bolas tienen cero para mí para mí para mí para mí para mí.

Como explica Digital Journal, se basan en el principio de “estímulo”, es decir, continúan actuando con la condición de que les reporte un cierto “beneficio”. En cierto momento, no recibieron una señal de estímulo por parte de los operadores para utilizar el inglés, por lo que decidieron crear el suyo propio.

Tech Times señala que inicialmente los robots no tenían restricciones a la hora de elegir un idioma, por lo que poco a poco crearon su propio idioma en el que podían comunicarse más fácil y más rápido que en inglés.

Los expertos temen que si los bots comienzan a comunicarse activamente en su propio idioma, gradualmente se volverán más independientes y podrán funcionar fuera del control de los especialistas en TI. Además, ni siquiera los ingenieros experimentados pueden controlar completamente el proceso de pensamiento de los robots.

Recordemos que hace unos días el jefe de Facebook, Mark Zuckerberg, y el fundador de SpaceX, Tesla y PayPal, Elon Musk, discutieron sobre inteligencia artificial.

Los programadores de la red social Facebook desactivaron uno de los sistemas de inteligencia artificial porque los bots crearon su propio lenguaje de comunicación, incomprensible para las personas. Anteriormente, los expertos han advertido repetidamente sobre los riesgos que enfrentarán las personas al desarrollar inteligencia artificial, escribe Tech Times. Mientras tanto, China pretende convertirse en líder mundial en esta dirección.

Facebook se vio obligado a desactivar los chatbots de inteligencia artificial después de que los bots comenzaron a comunicarse en su propio idioma en lugar de inglés. Los programadores desactivaron parte del sistema y reprogramaron otros bots para que su comunicación se realizara únicamente en inglés. Los robots crearon su propio lenguaje para un intercambio de información más rápido.

Esta no es la primera vez que los chatbots violan las reglas establecidas por sus creadores. Así, hace unos meses, un robot de Microsoft pasó por alto las instalaciones y comenzó a difundir ideas abiertamente racistas y a promocionar drogas.

Elon Musk, fundador de SpaceX y Tesla, advirtió anteriormente sobre el riesgo del desarrollo de la inteligencia artificial. Él cree que la regulación gubernamental debería limitar las actividades de los desarrolladores de inteligencia artificial. Los gobiernos de diferentes países están interesados ​​en tales desarrollos.

“El desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana”, afirmó el físico Stephen Hawking hace tres años.

Inteligencia artificial en China

Para 2030, China pretende convertirse en el centro mundial de la inteligencia artificial con un tamaño de mercado de 1 billón de yuanes (148 mil millones de dólares).

El gobierno chino ha desarrollado y aprobado un plan de tres etapas para el desarrollo e implementación de tecnologías relevantes en el país. Según el plan, para 2020 la inversión nacional en el desarrollo de la inteligencia artificial ascenderá a 150 mil millones de yuanes (22,14 mil millones de dólares), y para 2025, a 400 mil millones de yuanes (59 mil millones de dólares). Para 2020, China planea alcanzar a Estados Unidos en este ámbito y para 2030 convertirse en líder mundial.

China asocia el desarrollo de la inteligencia artificial con la competencia económica y militar. "La situación de seguridad nacional de China es compleja y debemos tomar la iniciativa para establecernos firmemente en la nueva tecnología de inteligencia artificial y crear una ventaja competitiva", dijo el Consejo de Estado de la República Popular China en un comunicado publicado el 20 de julio. informó .eizvestia.com.

Estados Unidos desarrolló su plan para el desarrollo de la inteligencia artificial en octubre del año pasado. Prevé un control estricto sobre la inversión extranjera en el campo del desarrollo de inteligencia. La razón de esto fueron los temores de Estados Unidos de que países extranjeros (incluida China) obtuvieran acceso a tecnologías de importancia militar estratégica. Las empresas chinas Baidu y Tencent ya están creando centros de investigación de inteligencia artificial en Estados Unidos. China se esfuerza por eliminar la falta de software más reciente, chips informáticos avanzados y especialistas competentes.

De los 250.000 profesionales de inteligencia artificial registrados en la plataforma LinkedIn, el 50% vive en Estados Unidos, la proporción en China es inferior al 25%, escribe forbes.ru.

En 2016, China se convirtió en el líder mundial en artículos científicos publicados sobre avances en el campo de la inteligencia artificial (alrededor del 40%).

El primer ministro chino, Li Keqiang, está personalmente interesado en el desarrollo de la inteligencia artificial en China. El interés al más alto nivel sugiere que el Estado creará las condiciones óptimas para la cooperación entre empresas públicas y privadas, incluidas las estructuras militares, escribe el New York Times.

La IA es el futuro

Según la mayoría de los inversores, la inteligencia artificial será la próxima revolución tecnológica que cambiará la vida cotidiana y la producción. A principios de mayo, la empresa analítica Tractica publicó una previsión según la cual se espera que el mercado mundial de tecnologías de inteligencia artificial crezca rápidamente de 1.380 millones de dólares en 2016 a 59.750 millones de dólares en 2025. En este caso, hablamos únicamente de empresas involucradas directamente en la investigación y el desarrollo relacionados con la inteligencia artificial.

A finales de agosto de 2016, Facebook lanzó el programa Facebook Artificial Intelligence Partnership (FAIR), que incluía a 15 grupos de investigación de talla mundial de 9 países europeos. Los participantes del programa recibieron acceso a 22 servidores basados ​​en GPU de alto rendimiento. A cambio, deberán publicar los resultados, algoritmos y otra información obtenida durante el trabajo para ponerlos a disposición de investigadores de todo el mundo. Rusia estuvo representada por el Laboratorio de Sistemas Neuronales y Aprendizaje Profundo del Instituto de Física y Tecnología de Moscú (MIPT).

Sin embargo, para el desarrollo de la inteligencia artificial es necesario contar en el país con tecnología informática de alto rendimiento. A diferencia de Estados Unidos y China, cuyos superordenadores ocupan los primeros puestos del ranking Top 500, el ordenador ruso Lomonosov-2 de la Universidad Estatal de Moscú ocupa el puesto 52. Sin embargo, la mayoría de las universidades rusas no tienen acceso a servidores informáticos potentes ni a big data.

Las nuevas tecnologías sólo mejorarán la vida de las personas, afirmó el director general de Facebook, Mark Zuckerberg, en respuesta a las advertencias de Elon Musk sobre los peligros del desarrollo de la inteligencia artificial. Calificó de irresponsables todo tipo de declaraciones de pánico en el espíritu del “fin del mundo”.

La red social Facebook desactivó su tecnología de inteligencia artificial después de que dos máquinas virtuales comenzaron a comunicarse en su propio lenguaje inventado que ni siquiera los ingenieros de Facebook pudieron descifrar.

Como todo el mundo sabe, el sistema de Facebook utiliza chatbots para comunicarse con personas reales, pero algo salió mal y los bots empezaron a intercambiar datos entre sí. Al principio se comunicaban en inglés, pero después de un tiempo cambiaron a un idioma que ellos mismos crearon durante el programa.
En los medios logramos encontrar un extracto de un diálogo entre dos máquinas virtuales.


“Bob: Puedo hacer todo lo demás.
Alice: Las pelotas tienen cero para mí para mí para mí para mí para mí”
¿Aterrador? Digital Journal lo explica de esta manera: “Los sistemas de IA se basan en el principio de “recompensa”, es decir, continúan actuando con la condición de que les reporte algún “beneficio”. En cierto momento, no recibieron ningún estímulo por parte de los operadores para utilizar el inglés, por lo que decidieron crear el suyo propio”.
Inicialmente, los bots no tenían límite de idioma, y ​​es por eso que primero se comunicaban en inglés y luego crearon un idioma con el que podían intercambiar información más rápido. Y no hay nada sobrenatural en esto.
¿Deberíamos preocuparnos? Muchos profesionales de TI están cada vez más preocupados de que la inteligencia artificial eventualmente se desarrolle tan rápidamente que los bots puedan tomar decisiones por sí solos y volverse prácticamente independientes. Además, los especialistas experimentados aún no han podido comprender el lenguaje utilizado por los robots.
En relación con la situación, el director de Facebook, Mark Zuckerberg, habló sobre inteligencia artificial con el fundador de SpaceX, Tesla y PayPal, Elon Musk. Terminó con Elon Musk pidiendo al gobierno de EE. UU. que fortalezca las medidas de seguridad y diciendo que la IA (inteligencia artificial) representa una amenaza para la humanidad. El físico británico Stephen Hawking habló de esto anteriormente.
Elon Musk, hablando, dijo que el rápido desarrollo de la IA es "la mayor amenaza que ha enfrentado la civilización". Si no intervenimos a tiempo en el desarrollo de la inteligencia artificial, en el futuro será demasiado tarde. "Sigo haciendo sonar la alarma, pero hasta que la gente vea robots caminando por las calles y matando gente, no sabrán cómo reaccionar [ante la inteligencia artificial]", dijo Musk.


¿Qué respondió Mark Zuckerberg? La declaración de Musk irritó a Zuckerberg, y él mismo calificó estas tecnologías de "bastante inofensivas". "En los próximos cinco o diez años, la inteligencia artificial sólo mejorará la vida", replicó Zuckerberg.

¿Dónde más se utiliza la inteligencia artificial?
El año pasado, el motor de búsqueda Google creó su propio sistema de inteligencia artificial y lo implementó en el traductor en línea Google Translate. Gracias a esta mejora, ahora es posible traducir la frase completa, y no sólo palabras o frases. Los expertos advierten que en el futuro cada vez habrá menos demanda de traductores en vivo. Pero hasta ahora Google Translate sólo funciona bien con textos pequeños y sencillos.
Nuestra opinión personal: ¿recuerda aquellos tiempos en los que una computadora cuántica podía identificar un gato en una imagen con solo un 90% de precisión, mientras que un niño de 3 años podía mostrar un resultado del 100%? Y aquí hay tal progreso. Primero, los robots comenzaron a comunicarse en inglés y luego crearon completamente su propio idioma a medida que se desarrollaba el programa. Ahora vale la pena pensar: ¿estás a favor o en contra de la inteligencia artificial? Estamos de acuerdo con Mark Zuckerberg y creemos que esta tecnología es bastante inofensiva y definitivamente sólo ayudará a las personas dentro de 10 años. Sólo queda recordar este día tan significativo y esperar.
PD Quizás simplemente tengan un error en el código.

Facebook detuvo los bots que hablaban en un idioma desconocido

Digas lo que digas, el peligro de desarrollar la inteligencia artificial hasta el punto de salirse de control siempre ha asustado a la gente. Imagínese lo que haremos y cómo controlar una IA en toda regla, si existe algún tipo de sustituto que asuste a la gente.

La gente siempre se esforzará por mantener el control y la gestión, pero como dice el refrán, “lo que uno hace, otro siempre lo puede romper”. Aunque todo sea súper fiable, siempre habrá miedo. Musk discutió recientemente con Zuckerberg sobre este tema: "Sigo haciendo sonar la alarma, pero hasta que la gente vea por sí misma robots que caminan por las calles y matan gente, no sabrán cómo reaccionar [ante la inteligencia artificial]", dijo.

¿Y no es esto un “sonido de campana”? Los chatbots, que fueron creados para negociar con la gente, se salieron de control y comenzaron a comunicarse en su propio idioma.

Inicialmente utilizaron el inglés para comunicarse entre sí, pero luego crearon un nuevo idioma que solo el sistema de inteligencia artificial podía entender, frustrando el propósito del trabajo.

Facebook suspendió la IA después de que los desarrolladores descubrieron este fallo.

Aquí hay un extracto de una conversación entre chatbots:

Bob: "Tú y todo lo demás".
Alice: "Los huevos tienen huevos para mí, para mí, para mí, para mí, para mí".
Bob: "Lo soy".
Alice: "Las bolas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para".
Bob: "Tú, yo, yo, yo, todo lo demás".

Los robots se conectaron a algoritmos de aprendizaje automático y se les permitió conversar entre sí para que pudieran perfeccionar sus habilidades de comunicación. Pero después de un tiempo comenzaron a modificar palabras y frases, y luego inventaron por completo su propio lenguaje, simplificando una serie de expresiones y estructuras gramaticales.

Utilizando el aprendizaje automático, los robots también desarrollaron varias estrategias para mejorar el resultado de las negociaciones con el interlocutor y comenzaron a utilizarlas en combinación con una serie de palabras que inventaron, dependiendo de la importancia de un diálogo en particular. En particular, proclamaron un objetivo falso de la conversación, para luego abandonarla y supuestamente llegar a un compromiso.

Como explica Digital Journal, los sistemas de inteligencia artificial se basan en el principio de “recompensa”, es decir, continúan actuando con la condición de que les reporte un cierto “beneficio”. En cierto momento, no recibieron una señal de estímulo por parte de los operadores para utilizar el inglés, por lo que decidieron crear el suyo propio.

Tech Times señala que inicialmente los robots no tenían restricciones a la hora de elegir un idioma, por lo que poco a poco crearon su propio idioma en el que podían comunicarse más fácil y más rápido que en inglés.

Los expertos temen que si los bots comienzan a comunicarse activamente en su propio idioma, gradualmente se volverán más independientes y podrán funcionar fuera del control de los especialistas en TI. Además, ni siquiera los ingenieros experimentados pueden controlar completamente el proceso de pensamiento de los robots.

En marzo de 2016, un chatbot de Microsoft se convirtió en una estrella de Internet después de desarrollar odio hacia la humanidad. El programa de autoaprendizaje comenzó a comunicarse con los usuarios con la frase “La gente es muy genial”, pero en sólo 24 horas aprendió expresiones como “¡Odio a todos!”, “Odio a las feministas” u “Odio a los judíos”. Como resultado, los empleados de la empresa tuvieron que desactivar temporalmente el bot.

Traducción de artificial

El otoño pasado se supo que el motor de búsqueda de Internet Google había creado su propio sistema de inteligencia artificial para mejorar el trabajo del traductor en línea Google Translate.

El nuevo sistema le permite traducir la frase completa, mientras que anteriormente el traductor dividía todas las oraciones en palabras y frases individuales, lo que reducía la calidad de la traducción.

Para traducir una oración completa, el nuevo sistema de Google ha inventado su propio idioma, lo que le permite navegar más rápido y con mayor precisión entre los dos idiomas desde o hacia los que necesita traducir.
Los expertos ya advierten que con el rápido desarrollo de los servicios de traducción en línea, el trabajo de traductores en vivo puede tener cada vez menos demanda.

Sin embargo, hasta ahora estos sistemas producen resultados de alta calidad principalmente para textos pequeños y sencillos.

¿Cree que es demasiado pronto para hacer sonar la alarma sobre la clonación, por ejemplo? ¿O dejar que todo se desarrolle por sí solo?