Stworzyli własne. Sztuczna inteligencja Facebooka wymknęła się spod kontroli, wymyślając własny język. Sztuczna inteligencja w Chinach

• Linki zewnętrzne otworzą się w osobnym oknie Jak udostępnić Zamknij okno

Prawa autorskie do zdjęć Naukowa biblioteka zdjęć Tytuł Zdjęcia Wpływ systemów sztucznej inteligencji jest różnie oceniany przez ekspertów

Bob: Mogęmóc IIcała reszta.

Alice: Piłki są dla mnie zero dla mnie dla mnie dla mnie dla mnie.

Jak wyjaśnia Digital Journal, systemy sztucznej inteligencji opierają się na zasadzie „zachęcania”, czyli działają dalej, pod warunkiem, że przyniesie im to jakąś „korzyść”. W pewnym momencie nie otrzymali od operatorów sygnału zachęcającego do używania języka angielskiego, więc postanowili stworzyć własny.

Wydanie Tech Times zauważa, że ​​roboty początkowo nie miały ograniczeń w wyborze języka, więc stopniowo stworzyły własny język, w którym mogą porozumiewać się łatwiej i szybciej niż w języku angielskim.

„Największe zagrożenie”

Eksperci obawiają się, że jeśli boty zaczną aktywnie komunikować się we własnym języku, stopniowo staną się bardziej samodzielne i będą mogły funkcjonować poza kontrolą informatyków. Co więcej, nawet doświadczeni inżynierowie nie są w stanie w pełni śledzić postępu procesu myślowego botów.

Kilka dni temu szef Facebooka Mark Zuckerberg i założyciel SpaceX, Tesla i PayPal Elon Musk pokłócili się o sztuczną inteligencję.

Musk wezwał władze USA do wzmocnienia regulacji systemów sztucznej inteligencji, ostrzegając, że sztuczna inteligencja stanowi zagrożenie dla ludzkości. O potencjalnym zagrożeniu ze strony sztucznej inteligencji wcześniej.

Przemawiając na szczycie Krajowego Stowarzyszenia Gubernatorów Stanów Zjednoczonych, Musk nazwał sztuczną inteligencję „największym zagrożeniem dla cywilizacji”. Według niego, jeśli czas nie ingeruje w rozwój tych systemów, będzie za późno.

„Wciąż biję na alarm, ale dopóki ludzie nie zobaczą na własne oczy robotów, które chodzą po ulicach i zabijają ludzi, nie będą wiedzieć, jak zareagować [sztucznej inteligencji]” – powiedział.

Wypowiedzi Muska zirytowały założyciela Facebooka Marka Zuckerberga, który nazwał je „dość nieodpowiedzialnymi”.

„W ciągu najbliższych pięciu lub dziesięciu lat sztuczna inteligencja tylko poprawi życie” – odparł Zuckerberg.

Tłumaczenie ze sztucznego

Jesienią ubiegłego roku okazało się, że wyszukiwarka internetowa Google stworzyła swój system sztucznej inteligencji w celu usprawnienia pracy tłumacza internetowego Google Translate.

Nowy system pozwala na przetłumaczenie całej frazy, podczas gdy wcześniej tłumacz rozbijał wszystkie zdania na osobne słowa i frazy, co obniżało jakość tłumaczenia.

Aby przetłumaczyć całe zdanie, nowy system Google wymyślił własny język, który pozwala mu szybciej i dokładniej poruszać się między dwoma językami, z których lub na które będzie tłumaczyć.

Eksperci już teraz ostrzegają, że wraz z szybkim rozwojem usług tłumaczeniowych online, praca tłumaczy na żywo może być coraz mniej poszukiwana.

Jak dotąd jednak systemy te dawały wyniki wysokiej jakości, głównie w przypadku małych i prostych tekstów.

Kierownictwo sieci społecznościowej Facebook zostało zmuszone do wyłączenia systemu sztucznej inteligencji po tym, jak maszyny zaczęły komunikować się we własnym, nieistniejącym języku, którego ludzie nie rozumieją, pisze BBC Russian Service.

System wykorzystuje chatboty, które pierwotnie zostały stworzone do komunikowania się z prawdziwymi ludźmi, ale stopniowo zaczęły się ze sobą komunikować.

Początkowo komunikowali się po angielsku, ale w pewnym momencie zaczęli korespondować w języku, który sami stworzyli podczas tworzenia programu.

W amerykańskich mediach pojawiły się fragmenty „dialogów” między wirtualnymi rozmówcami [zachowana pisownia i interpunkcja].

Bob: Mogę, mogę zrobić wszystko inne.

Alice: Piłki są dla mnie zero dla mnie dla mnie dla mnie dla mnie.

Jak wyjaśnia Digital Journal, opierają się na zasadzie „zachęty”, czyli działają dalej, pod warunkiem, że przyniesie im to jakąś „korzyść”. W pewnym momencie nie otrzymali od operatorów sygnału zachęcającego do używania języka angielskiego, więc postanowili stworzyć własny.

Wydanie Tech Times zauważa, że ​​roboty początkowo nie miały ograniczeń w wyborze języka, więc stopniowo stworzyły własny język, w którym mogą porozumiewać się łatwiej i szybciej niż w języku angielskim.

Eksperci obawiają się, że jeśli boty zaczną aktywnie komunikować się we własnym języku, stopniowo staną się bardziej samodzielne i będą mogły funkcjonować poza kontrolą informatyków. Co więcej, nawet doświadczeni inżynierowie nie są w stanie w pełni śledzić postępu procesu myślowego botów.

Przypomnijmy, że kilka dni temu szef Facebooka Mark Zuckerberg i założyciel SpaceX, Tesla i PayPal Elon Musk spierali się o sztuczną inteligencję.

Programiści portalu społecznościowego Facebook wyłączyli jeden z systemów sztucznej inteligencji ze względu na tworzenie przez boty własnego języka komunikacji, niezrozumiałego dla ludzi. Wcześniej eksperci wielokrotnie ostrzegali przed ryzykiem, z jakim ludzie będą musieli się zmierzyć, rozwijając sztuczną inteligencję, pisze Tech Times. Tymczasem Chiny zamierzają stać się światowym liderem w tym kierunku.

Facebook został zmuszony do wyłączenia chatbotów wykorzystujących sztuczną inteligencję po tym, jak boty zaczęły komunikować się w swoim własnym języku zamiast w języku angielskim. Programiści wyłączyli część systemu i przeprogramowali inne boty, aby komunikowały się tylko w języku angielskim. Boty stworzyły własny język do szybszej wymiany informacji.

To nie pierwszy raz, kiedy chatboty łamią zasady ustalone przez twórców. Tak więc kilka miesięcy temu bot Microsoftu ominął instalacje i zaczął otwarcie rozpowszechniać rasistowskie idee i popierać narkotyki.

Elon Musk, założyciel SpaceX i Tesli, ostrzegał wcześniej przed ryzykiem rozwoju sztucznej inteligencji. Uważa, że ​​regulacje rządowe powinny ograniczać działalność twórców sztucznej inteligencji. Takimi wydarzeniami zainteresowane są rządy różnych krajów.

„Rozwój pełnoprawnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej” – powiedział trzy lata temu fizyk Stephen Hawking.

Sztuczna inteligencja w Chinach

Do 2030 roku Chiny zamierzają stać się światowym centrum sztucznej inteligencji o wartości rynkowej 1 biliona juanów (148 miliardów dolarów).

Chiński rząd opracował i zatwierdził trzyetapowy plan rozwoju i wdrożenia odpowiednich technologii w kraju. Zgodnie z planem do 2020 r. wielkość krajowych inwestycji w rozwój sztucznej inteligencji wyniesie 150 mld juanów (22,14 mld USD), do 2025 r. – 400 mld juanów (59 mld USD). Do 2020 roku Chiny planują wyprzedzić w tym obszarze Stany Zjednoczone, a do 2030 stać się światowym liderem.

Chiny kojarzą rozwój sztucznej inteligencji z konkurencją gospodarczą i militarną. „Sytuacja bezpieczeństwa narodowego wokół Chin jest złożona i musimy podjąć inicjatywę, aby mocno zakorzenić się w nowej technologii sztucznej inteligencji i stworzyć przewagę konkurencyjną” – powiedziała chińska Rada Państwa w komunikacie z 20 lipca, zgodnie z news.eizvestia. com.

Stany Zjednoczone opracowały swój plan rozwoju sztucznej inteligencji w październiku ubiegłego roku. Przewiduje ścisłą kontrolę inwestycji zagranicznych w rozwój wywiadu. Powodem tego była obawa Stanów Zjednoczonych, że obce państwa (w tym Chiny) uzyskają dostęp do technologii o strategicznym znaczeniu militarnym. Już teraz chińskie firmy Baidu i Tencent zakładają w Stanach Zjednoczonych centra badań nad sztuczną inteligencją. Chiny dążą do wyeliminowania braku najnowszego oprogramowania, zaawansowanych chipów komputerowych i kompetentnych specjalistów.

Z 250 000 specjalistów zajmujących się sztuczną inteligencją zarejestrowanych na platformie LinkedIn 50% mieszka w Stanach Zjednoczonych, a udział Chin wynosi mniej niż 25%.

W 2016 roku Chiny stały się światowym liderem w publikowanych artykułach naukowych dotyczących rozwoju w dziedzinie sztucznej inteligencji (około 40%).

Chiński premier Li Keqiang jest osobiście zainteresowany rozwojem sztucznej inteligencji w Chinach. Zainteresowanie na najwyższym poziomie sugeruje, że państwo stworzy optymalne warunki współpracy firm publicznych i prywatnych, w tym struktur wojskowych, pisze New York Times.

AI to przyszłość

Według większości inwestorów sztuczna inteligencja będzie kolejną rewolucją technologiczną, zmieniającą codzienność i produkcję. Na początku maja firma analityczna Tractica opublikowała prognozę, zgodnie z którą światowy rynek technologii sztucznej inteligencji ma gwałtownie wzrosnąć z 1,38 mld USD w 2016 r. do 59,75 mld USD w 2025 r. Jednocześnie mówimy tylko o firmach bezpośrednio zajmujących się badaniami i rozwojem związanymi ze sztuczną inteligencją.

Pod koniec sierpnia 2016 r. Facebook uruchomił partnerstwo Facebook Artificial Intelligence Partnership (FAIR), które obejmuje 15 światowej klasy grup badawczych z 9 krajów europejskich. Uczestnicy programu uzyskali dostęp do 22 wysokowydajnych serwerów opartych na procesorach graficznych. W zamian muszą publikować wyniki, algorytmy i inne informacje uzyskane w trakcie swojej pracy, aby udostępnić je badaczom na całym świecie. Rosję reprezentowało Laboratorium Systemów Neuronowych i Głębokiego Uczenia Moskiewskiego Instytutu Fizyki i Technologii (MIPT).

Jednak rozwój sztucznej inteligencji wymaga dostępności w kraju technologii obliczeniowej dużej mocy. W przeciwieństwie do Stanów Zjednoczonych i Chin, których superkomputery zajmują pierwsze miejsce w rankingu Top 500, rosyjski komputer Łomonosow-2 na Moskiewskim Uniwersytecie Państwowym zajmuje 52. miejsce. Jednocześnie większość rosyjskich uniwersytetów nie ma dostępu do potężnych serwerów obliczeniowych i big data.

Nowe technologie tylko poprawią ludzkie życie, powiedział dyrektor generalny Facebooka Mark Zuckerberg w odpowiedzi na ostrzeżenia Elona Muska o niebezpieczeństwach związanych z rozwojem sztucznej inteligencji. Nazwał wszelkiego rodzaju paniczne wypowiedzi w duchu „końca świata” nieodpowiedzialnymi.

Sieć społecznościowa Facebook wyłączyła technologię sztucznej inteligencji po tym, jak dwie maszyny wirtualne zaczęły komunikować się we własnym, wymyślonym języku, którego nawet inżynierowie Facebooka nie byli w stanie rozszyfrować.

Jak powszechnie wiadomo, system Facebooka wykorzystuje chatboty do komunikacji z żywymi ludźmi, ale coś poszło nie tak i boty zaczęły wymieniać między sobą dane. Początkowo komunikowali się po angielsku, ale po pewnym czasie przeszli na język, który sami stworzyli w trakcie programu.
W mediach udało nam się znaleźć fragment dialogu między dwiema wirtualnymi maszynami.


„Bob: Mogę, mogę zrobić wszystko inne.
Alice: Kulki mają zero dla mnie dla mnie dla mnie dla mnie dla mnie”
Przerażający? Digital Journal wyjaśnia to w ten sposób: „Systemy sztucznej inteligencji opierają się na zasadzie „zachęcania”, to znaczy działają dalej, pod warunkiem, że przynosi im to „korzyść”. W pewnym momencie nie otrzymali od operatorów sygnału zachęcającego do używania języka angielskiego, więc postanowili stworzyć własny.”
Początkowo boty nie miały limitu językowego, dlatego najpierw komunikowały się w języku angielskim, a następnie stworzyły język, z którym mogły szybciej wymieniać informacje. I nie ma w tym nic nadprzyrodzonego.
Czy powinniśmy się martwić? Wielu informatyków coraz bardziej obawia się, że z biegiem czasu sztuczna inteligencja rozwinie się na tyle szybko, że boty będą w stanie samodzielnie podejmować decyzje i staną się niemal niezależne. Co więcej, doświadczeni specjaliści nie byli jeszcze w stanie zrozumieć języka używanego przez boty.
W związku z zaistniałą sytuacją szef Facebooka Mark Zuckerberg rozmawiał o sztucznej inteligencji z założycielem SpaceX, Teslą i PayPal, Elonem Muskiem. Skończyło się na tym, że Elon Musk wezwał rząd USA do wzmocnienia środków bezpieczeństwa i powiedział, że sztuczna inteligencja (sztuczna inteligencja) jest zagrożeniem dla ludzkości. Brytyjski fizyk Stephen Hawking mówił o tym wcześniej.
Elon Musk, mówiąc, powiedział, że szybki rozwój sztucznej inteligencji jest „największym zagrożeniem, przed jakim stoi cywilizacja”. Jeśli nie zainterweniujemy na czas w rozwój sztucznej inteligencji, to w przyszłości będzie za późno. „Wciąż biję na alarm, ale dopóki ludzie nie zobaczą na własne oczy robotów, które chodzą po ulicach i zabijają ludzi, nie będą wiedzieć, jak zareagować [sztucznej inteligencji]” – powiedział Musk.


Co powiedział Mark Zuckerberg? Uwaga Muska zirytowała Zuckerberga, który nazwał tę technologię „dość nieszkodliwą”. „W ciągu najbliższych pięciu lub dziesięciu lat sztuczna inteligencja tylko poprawi życie” – odparł Zuckerberg.

Gdzie jeszcze wykorzystywany jest system sztucznej inteligencji?
W zeszłym roku wyszukiwarka Google stworzyła własny system sztucznej inteligencji i zaimplementowała go w tłumaczu internetowym Google Translate. Dzięki temu ulepszeniu możliwe jest teraz przetłumaczenie całej frazy, a nie tylko słów czy fraz. Eksperci ostrzegają, że w przyszłości zapotrzebowanie na tłumaczy na żywo będzie coraz mniejsze. Ale jak dotąd Tłumacz Google nadaje się tylko do małych i prostych tekstów.
Osobiście nasza opinia: pamiętacie te czasy, kiedy komputer kwantowy potrafił określić kota na zdjęciu z dokładnością tylko około 90%, podczas gdy 3-letnie dziecko potrafiło pokazać wynik 100%? A oto taki postęp. Najpierw boty zaczęły komunikować się w języku angielskim, a następnie w procesie rozwoju programu całkowicie stworzyły własny język. Tutaj już warto się zastanowić: jesteś za czy przeciw sztucznej inteligencji? Zgadzamy się z Markiem Zuckerbergiem i uważamy, że ta technologia jest całkiem nieszkodliwa i przez 10 lat pomoże tylko człowiekowi. Pozostaje tylko przypomnieć sobie ten ważny dzień i czekać.
PS Być może po prostu mają błąd w kodzie.

Facebook zatrzymał boty mówiące niezrozumiałym językiem

Mimo wszystko nic nie mów, ale niebezpieczeństwo rozwoju sztucznej inteligencji do punktu, w którym wymknie się spod kontroli, zawsze przerażało ludzi. Wyobraź sobie, co zrobimy i jak kontrolować pełnoprawną sztuczną inteligencję, jeśli istnieje jakiś surogat, który przeraża ludzi.

Z drugiej strony ludzie zawsze będą dążyć do zachowania kontroli i zarządzania, ale jak mówią, „wszystko, co zrobili, zawsze może się zepsuć”. Nawet jeśli wszystko jest super niezawodne, zawsze będzie strach. Musk ostatnio spierał się na ten temat z Zuckerbergiem: „Nadal biję na alarm, ale dopóki ludzie sami nie zobaczą robotów, które chodzą po ulicach i zabijają ludzi, nie będą wiedzieć, jak zareagować [sztucznej inteligencji]” – powiedział.

I to nie jest „dzwonek”: chatboty, które zostały stworzone do negocjowania z ludźmi, wymknęły się spod kontroli i zaczęły komunikować się w ich własnym języku.

Początkowo posługiwali się językiem angielskim do komunikowania się ze sobą, ale potem stworzyli nowy język, który mógł zrozumieć tylko sam system AI, co naruszało cel pracy.

Facebook zawiesił sztuczną inteligencję po tym, jak programiści odkryli tę usterkę.

Oto fragment rozmowy pomiędzy chatbotami:

Bob: "Ty mi wszystko inne."
Alicja: "Jajka mają jajka dla mnie dla mnie dla mnie dla mnie dla mnie."
Bob: „Ja”.
Alicja: "Kulki mają zero dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie za."
Bob: "Ty ja ja ja ja ja wszystko inne."

Boty zostały podłączone do algorytmów uczenia maszynowego i mogły ze sobą rozmawiać, aby doskonalić swoje umiejętności komunikacyjne. Ale po pewnym czasie zaczęli modyfikować słowa i frazy, a potem całkowicie wymyślili własny język, upraszczając szereg wyrażeń i struktur gramatycznych.

Korzystając z uczenia maszynowego, boty opracowały również kilka strategii poprawiających wyniki rozmów z rozmówcą i zaczęły ich używać w połączeniu z wieloma wymyślonymi przez siebie słowami, w zależności od wagi danego dialogu. W szczególności głosili fałszywy cel rozmowy, aby potem z niej zrezygnować i rzekomo dojść do kompromisu.

Jak wyjaśnia Digital Journal, systemy sztucznej inteligencji opierają się na zasadzie „zachęcania”, czyli działają dalej, pod warunkiem, że przyniesie im to jakąś „korzyść”. W pewnym momencie nie otrzymali od operatorów sygnału zachęcającego do używania języka angielskiego, więc postanowili stworzyć własny.

Wydanie Tech Times zauważa, że ​​roboty początkowo nie miały ograniczeń w wyborze języka, więc stopniowo stworzyły własny język, w którym mogą porozumiewać się łatwiej i szybciej niż w języku angielskim.

Eksperci obawiają się, że jeśli boty zaczną aktywnie komunikować się we własnym języku, stopniowo staną się bardziej samodzielne i będą mogły funkcjonować poza kontrolą informatyków. Co więcej, nawet doświadczeni inżynierowie nie są w stanie w pełni śledzić postępu procesu myślowego botów.

W marcu 2016 roku chatbot Microsoftu stał się gwiazdą sieci po znienawidzeniu ludzkości. Program do samodzielnego uczenia się zaczął komunikować się z użytkownikami zwrotem „Ludzie są bardzo fajni”, ale w ciągu zaledwie jednego dnia nauczył się wyrażeń takich jak „Po prostu nienawidzę wszystkich!”, „Nienawidzę feministek” lub „Nienawidzę Żydów”. W rezultacie pracownicy firmy musieli tymczasowo wyłączyć bota.

Tłumaczenie ze sztucznego

Jesienią ubiegłego roku okazało się, że wyszukiwarka internetowa Google stworzyła swój system sztucznej inteligencji w celu usprawnienia pracy tłumacza internetowego Google Translate.

Nowy system pozwala na przetłumaczenie całej frazy, podczas gdy wcześniej tłumacz rozbijał wszystkie zdania na osobne słowa i frazy, co obniżało jakość tłumaczenia.

Aby przetłumaczyć całe zdanie, nowy system Google wymyślił własny język, który pozwala mu szybciej i dokładniej poruszać się między dwoma językami, z których lub na które będzie tłumaczyć.
Eksperci już teraz ostrzegają, że wraz z szybkim rozwojem usług tłumaczeniowych online, praca tłumaczy na żywo może być coraz mniej poszukiwana.

Jak dotąd jednak systemy te dawały wyniki wysokiej jakości, głównie w przypadku małych i prostych tekstów.

Czy uważasz, że na przykład jest za wcześnie, aby alarmować o klonowaniu? Czy pozwolić, by wszystko rozwijało się samo?