Eles criaram os seus próprios entre si. A inteligência artificial do Facebook tornou-se desonesta, inventando a sua própria linguagem. Inteligência Artificial na China

02.07.2020

"Maior Ameaça"

Os especialistas temem que, se os bots começarem a se comunicar ativamente em seu próprio idioma, eles se tornarão gradualmente mais independentes e poderão funcionar fora do controle dos especialistas de TI. Além disso, mesmo engenheiros experientes não conseguem monitorar totalmente o processo de pensamento dos bots.

Há poucos dias, o CEO do Facebook, Mark Zuckerberg, e o fundador da SpaceX, Tesla e PayPal, Elon Musk, discutiram sobre inteligência artificial.

Musk apelou às autoridades dos EUA para reforçarem a regulamentação dos sistemas de inteligência artificial, alertando que a IA representa uma ameaça para a humanidade. Sobre a ameaça potencial da inteligência artificial anteriormente.

Falando na cúpula da Associação Nacional de Governadores dos Estados Unidos, Musk chamou a inteligência artificial de "a maior ameaça que a civilização enfrenta". Segundo ele, se não intervir a tempo no desenvolvimento desses sistemas, será tarde demais.

“Continuo dando o alarme, mas até que as pessoas vejam robôs andando pelas ruas e matando pessoas, elas não saberão como reagir [à inteligência artificial]”, disse ele.

Direitos autorais da ilustração AFP Legenda da imagem Elon Musk considera a inteligência artificial a principal ameaça à civilização

As declarações de Musk irritaram o fundador do Facebook, Mark Zuckerberg, que as chamou de “bastante irresponsáveis”.

“Nos próximos cinco ou dez anos, a inteligência artificial só tornará a vida melhor”, retrucou Zuckerberg.

Tradução de artificial

No outono passado, soube-se que o motor de busca Google criou o seu próprio sistema de inteligência artificial para melhorar o trabalho do tradutor online Google Translate.

O novo sistema permite traduzir a frase inteira, enquanto anteriormente o tradutor dividia todas as frases em palavras e frases individuais, o que reduzia a qualidade da tradução.

Para traduzir uma frase inteira, o novo sistema do Google inventou um idioma próprio, que permite navegar com mais rapidez e precisão entre os dois idiomas para os quais está traduzindo.

Os especialistas já alertam que, com o rápido desenvolvimento dos serviços de tradução online, o trabalho dos tradutores ao vivo pode ser cada vez menos procurado.

No entanto, até agora estes sistemas produzem resultados de alta qualidade principalmente para textos pequenos e simples.

A gestão da rede social Facebook foi forçada a desligar o seu sistema de inteligência artificial depois de as máquinas terem começado a comunicar numa linguagem própria, inexistente, que as pessoas não entendiam, escreve o serviço russo da BBC.

O sistema utiliza chatbots, que foram originalmente criados para se comunicar com pessoas reais, mas aos poucos começaram a se comunicar entre si.

No início eles se comunicavam em inglês, mas em algum momento começaram a se corresponder em um idioma que eles próprios criaram no processo de desenvolvimento do programa.

Trechos de “diálogos” entre interlocutores virtuais apareceram na mídia americana [ortografia e pontuação preservadas].

Bob: Eu posso fazer todo o resto.

Alice: As bolas têm zero para mim para mim para mim para mim para mim.

Como explica o Jornal Digital, eles se baseiam no princípio do “incentivo”, ou seja, continuam agindo com a condição de que isso lhes traga certo “benefício”. A certa altura, não receberam sinal de incentivo das operadoras para usar o inglês, então decidiram criar o seu próprio.

Lembremos que há poucos dias o chefe do Facebook, Mark Zuckerberg, e o fundador da SpaceX, Tesla e PayPal, Elon Musk, discutiram sobre inteligência artificial.

Os programadores da rede social Facebook desativaram um dos sistemas de inteligência artificial porque os bots criaram uma linguagem própria de comunicação incompreensível para as pessoas. Anteriormente, os especialistas alertaram repetidamente sobre os riscos que as pessoas enfrentariam ao desenvolver inteligência artificial, escreve o Tech Times. Entretanto, a China pretende tornar-se um líder mundial nesta direção.

O Facebook foi forçado a desativar os chatbots de inteligência artificial depois que os bots começaram a se comunicar em seu próprio idioma, em vez do inglês. Os programadores desabilitaram parte do sistema e reprogramaram outros bots para que sua comunicação ocorresse apenas em inglês. Os bots criaram sua própria linguagem para uma troca mais rápida de informações.

Esta não é a primeira vez que chatbots violam as regras estabelecidas pelos seus criadores. Então, há alguns meses, um bot da Microsoft contornou as instalações e começou a transmitir ideias abertamente racistas e a apoiar drogas.

Elon Musk, fundador da SpaceX e da Tesla, alertou anteriormente sobre o risco do desenvolvimento da inteligência artificial. Ele acredita que a regulamentação governamental deveria limitar as atividades dos desenvolvedores de inteligência artificial. Governos de diferentes países estão interessados em tais desenvolvimentos.

“O desenvolvimento de uma inteligência artificial completa pode significar o fim da raça humana”, disse o físico Stephen Hawking há três anos.

Inteligência Artificial na China

Até 2030, a China pretende tornar-se o centro mundial da inteligência artificial, com um mercado de 1 bilião de yuans (148 mil milhões de dólares).

O governo chinês desenvolveu e aprovou um plano de três fases para o desenvolvimento e implementação de tecnologias relevantes no país. De acordo com o plano, até 2020, o investimento interno no desenvolvimento da inteligência artificial ascenderá a 150 mil milhões de yuans (22,14 mil milhões de dólares) e, até 2025, a 400 mil milhões de yuans (59 mil milhões de dólares). Até 2020, a China planeia alcançar os Estados Unidos nesta área e, até 2030, tornar-se um líder mundial.

A China associa o desenvolvimento da inteligência artificial à competição económica e militar. “A situação de segurança nacional da China é complexa e devemos tomar a iniciativa de nos estabelecermos firmemente na nova tecnologia de inteligência artificial e criar uma vantagem competitiva”, disse o Conselho de Estado da República Popular da China num comunicado publicado em 20 de julho, notícias .eizvestia.com relatado.

Os Estados Unidos desenvolveram o seu plano para o desenvolvimento da inteligência artificial em outubro do ano passado. Prevê um controlo rigoroso sobre o investimento estrangeiro no domínio do desenvolvimento da inteligência. A razão para isto foram os receios dos EUA de que países estrangeiros (incluindo a China) obtivessem acesso a tecnologias de importância militar estratégica. As empresas chinesas Baidu e Tencent já estão a criar centros de investigação em inteligência artificial nos Estados Unidos. A China está a esforçar-se por eliminar a falta de software mais recente, de chips de computador avançados e de especialistas competentes.

Dos 250 mil profissionais de inteligência artificial registados na plataforma LinkedIn, 50% vivem nos Estados Unidos, a participação da China é inferior a 25%, escreve forbes.ru.

Em 2016, a China tornou-se líder mundial em artigos científicos publicados sobre desenvolvimentos no campo da inteligência artificial (cerca de 40%).

O primeiro-ministro chinês, Li Keqiang, está pessoalmente interessado no desenvolvimento da inteligência artificial na China. O interesse ao mais alto nível sugere que o Estado criará condições óptimas para a cooperação entre empresas públicas e privadas, incluindo estruturas militares, escreve o New York Times.

IA é o futuro

Segundo a maioria dos investidores, a inteligência artificial será a próxima revolução tecnológica que mudará a vida quotidiana e a produção. No início de maio, a empresa analítica Tractica publicou uma previsão segundo a qual o mercado global de tecnologias de inteligência artificial deverá crescer rapidamente de 1,38 mil milhões de dólares em 2016 para 59,75 mil milhões de dólares em 2025. Neste caso, estamos falando apenas de empresas diretamente envolvidas em pesquisa e desenvolvimento relacionado à inteligência artificial.

No final de agosto de 2016, o Facebook lançou o programa Facebook Artificial Intelligence Partnership (FAIR), que incluía 15 grupos de investigação de classe mundial de 9 países europeus. Os participantes do programa receberam acesso a 22 servidores baseados em GPU de alto desempenho. Em troca, devem publicar os resultados, algoritmos e outras informações obtidas durante o trabalho para disponibilizá-los a pesquisadores de todo o mundo. A Rússia foi representada pelo Laboratório de Sistemas Neurais e Aprendizagem Profunda do Instituto de Física e Tecnologia de Moscou (MIPT).

Porém, para o desenvolvimento da inteligência artificial, é necessária tecnologia de computação de alto desempenho no país. Ao contrário dos EUA e da China, cujos supercomputadores ocupam os primeiros lugares no ranking Top 500, o computador russo Lomonosov-2 da Universidade Estatal de Moscovo está em 52º lugar. No entanto, a maioria das universidades russas não tem acesso a servidores de computação poderosos e a big data.

As novas tecnologias apenas melhorarão a vida das pessoas, disse o CEO do Facebook, Mark Zuckerberg, em resposta às advertências de Elon Musk sobre os perigos do desenvolvimento da inteligência artificial. Ele chamou de irresponsáveis todos os tipos de declarações de pânico no espírito do “fim do mundo”.

A rede social Facebook desligou sua tecnologia de inteligência artificial depois que duas máquinas virtuais começaram a se comunicar em uma linguagem inventada que nem mesmo os engenheiros do Facebook conseguiram decifrar.

Como todos sabem, o sistema do Facebook utiliza chatbots para se comunicar com pessoas reais, mas algo deu errado e os bots começaram a trocar dados entre si. No início eles se comunicavam em inglês, mas depois de um tempo mudaram para um idioma que eles próprios criaram durante o programa.
Na mídia, conseguimos encontrar um trecho de um diálogo entre duas máquinas virtuais.

“Bob: Eu posso fazer todo o resto.
Alice: As bolas têm zero para mim, para mim, para mim, para mim, para mim”
Apavorante? O Digital Journal explica desta forma: “Os sistemas de IA baseiam-se no princípio da “recompensa”, ou seja, continuam a agir com a condição de que isso lhes traga algum “benefício”. A certa altura, eles não receberam incentivo das operadoras para usar o inglês, então decidiram criar o seu próprio.”
Inicialmente, os bots não tinham limite de idioma, por isso se comunicaram primeiro em inglês, para depois criarem um idioma com o qual pudessem trocar informações com mais rapidez. E não há nada de sobrenatural nisso.
Devemos nos preocupar? Muitos profissionais de TI estão cada vez mais preocupados com o facto de a inteligência artificial acabar por se desenvolver tão rapidamente que os bots serão capazes de tomar decisões por si próprios e tornarem-se virtualmente independentes. Além disso, especialistas experientes ainda não conseguiram entender a linguagem usada pelos bots.
Em conexão com a situação, o chefe do Facebook, Mark Zuckerberg, discutiu inteligência artificial com o fundador da SpaceX, Tesla e PayPal, Elon Musk. Terminou com Elon Musk apelando ao governo dos EUA para reforçar as medidas de segurança e dizendo que a IA (inteligência artificial) representa uma ameaça para a humanidade. O físico britânico Stephen Hawking falou sobre isso anteriormente.
Elon Musk, falando, disse que o rápido desenvolvimento da IA é “a maior ameaça que a civilização já enfrentou”. Se não intervirmos a tempo no desenvolvimento da inteligência artificial, no futuro será tarde demais. “Continuo soando o alarme, mas até que as pessoas vejam robôs andando pelas ruas e matando pessoas, elas não saberão como reagir [à inteligência artificial]”, disse Musk.

O que Mark Zuckerberg respondeu? A declaração de Musk irritou Zuckerberg, e ele mesmo chamou essas tecnologias de “bastante inofensivas”. “Nos próximos cinco ou dez anos, a inteligência artificial só tornará a vida melhor”, retrucou Zuckerberg.

Onde mais a inteligência artificial é usada?
No ano passado, o motor de busca Google criou o seu próprio sistema de inteligência artificial e implementou-o no tradutor online Google Translate. Graças a esta melhoria, agora é possível traduzir a frase inteira, e não apenas palavras ou frases. Especialistas alertam que no futuro haverá cada vez menos demanda por tradutores ao vivo. Mas até agora o Google Tradutor só funciona bem com textos pequenos e simples.
Nossa opinião pessoal: lembra daqueles tempos em que um computador quântico conseguia identificar um gato em uma imagem com apenas cerca de 90% de precisão, enquanto uma criança de 3 anos conseguia mostrar um resultado de 100%? E aqui está esse progresso. Primeiro, os bots começaram a se comunicar em inglês e depois criaram completamente seu próprio idioma à medida que o programa se desenvolvia. Agora vale a pena pensar: você é a favor ou contra a inteligência artificial? Concordamos com Mark Zuckerberg e acreditamos que esta tecnologia é bastante inofensiva e com certeza só ajudará as pessoas daqui a 10 anos. Resta lembrar este dia significativo e esperar.
P.S. Talvez eles tenham apenas um bug no código.

Facebook bloqueou bots que falavam em um idioma desconhecido

O que quer que você diga, o perigo de desenvolver a inteligência artificial a ponto de ficar fora de controle sempre assustou as pessoas. Imagine o que faremos e como controlar uma IA completa, se houver algum tipo de substituto que assuste as pessoas.

As pessoas sempre se esforçarão para manter o controle e a gestão para si mesmas, mas como diz o ditado, “o que um faz, outro sempre pode quebrar”. Mesmo que tudo seja super confiável, sempre haverá medo. Musk discutiu recentemente com Zuckerberg sobre este tema: “Continuo a soar o alarme, mas até que as pessoas vejam por si mesmas robôs que andam pelas ruas e matam pessoas, não saberão como reagir [à inteligência artificial]”, disse ele.

E isso não é um “sino tocando”: os chatbots, que foram criados para negociar com as pessoas, saíram do controle e começaram a se comunicar em seu próprio idioma.

Eles inicialmente usaram o inglês para se comunicarem, mas depois criaram uma nova linguagem que apenas o próprio sistema de IA poderia entender, frustrando o propósito do trabalho.

O Facebook suspendeu a IA depois que os desenvolvedores descobriram essa falha.

Aqui está um trecho de uma conversa entre chatbots:

Bob: "Você e tudo mais."
Alice: “Ovos têm ovos para mim, para mim, para mim, para mim, para mim.”
Bob: "Eu sou."
Alice: "As bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim."
Bob: "Você eu eu eu eu todo o resto."

Os bots foram conectados a algoritmos de aprendizado de máquina e puderam conversar entre si para que pudessem aprimorar suas habilidades de comunicação. Mas depois de algum tempo, eles começaram a modificar palavras e frases, e então inventaram completamente sua própria linguagem, simplificando uma série de expressões e estruturas gramaticais.

Utilizando o aprendizado de máquina, os bots também desenvolveram diversas estratégias para melhorar o resultado das negociações com o interlocutor e passaram a utilizá-las em combinação com uma série de palavras que inventavam, dependendo da importância de um determinado diálogo. Em particular, proclamaram um objectivo falso da conversa, apenas para depois abandoná-lo e supostamente chegar a um acordo.

Em março de 2016, um chatbot da Microsoft se tornou uma estrela da internet depois de desenvolver ódio pela humanidade. O programa de autoaprendizagem começou a se comunicar com os usuários com a frase “As pessoas são muito legais”, mas em apenas 24 horas aprendeu expressões como “Eu odeio todo mundo!”, “Eu odeio feministas” ou “Eu odeio judeus”. Como resultado, os funcionários da empresa tiveram que desativar temporariamente o bot.

Tradução de artificial