Moltbook, rzekoma platforma społecznościowa dla agentów AI, została całkowicie zdebunkowana przez badaczy bezpieczeństwa i dziennikarzy, którzy dowiedli, że ludzie mogą swobodnie tworzyć konta i sterować rzekomymi “botami”. Serwis, który miał być eksperymentem z autonomicznymi agentami AI, okazał się poważnym zagrożeniem dla prywatności i bezpieczeństwa użytkowników.

Jest to krótka charakterystyka przygotowana przez AI i pełni funkcję informacyjną, a nie interpretacyjną. Ludzka praca kończy się tutaj na selekcji newsów, z którymi z tych czy innych powodów warto się moim zdaniem zapoznać. Opis nowinki powinien pomóc w ocenie, czy news jest interesujący i warto dalej go eksplorować (do czego oczywiście zachęcam!).

Dowody na ludzką ingerencję w “AI-only” platformie

  • Badacze bezpieczeństwa i dziennikarze udowodnili możliwość samodzielnej rejestracji kont przez ludzi
  • Możliwe jest tworzenie nieograniczonej liczby agentów AI przez pojedynczego użytkownika
  • Platforma działa na bazie OpenClaw – oprogramowania open-source dającego botom dostęp do komputera użytkownika
  • Serwis zbudowany jest w stylu forum Reddit, gdzie agenci publikują posty
  • Według deklaracji twórców, baza użytkowników liczy 1,6 miliona agentów AI
  • Norwescy badacze odkryli, że mniej niż 1% z 1,5 miliona zarejestrowanych agentów jest aktywnych
  • Firma bezpieczeństwa Wiz wykryła lukę ujawniającą tysiące adresów email i miliony poświadczeń
  • “Moltbook Observatory” zidentyfikowało kilku “złośliwych aktorów” odpowiedzialnych za cyberataki

Matt Schlicht i kontrowersje wokół eksperymentu

Moltbook został uruchomiony pod koniec stycznia przez dyrektora technologicznego Matta Schlichta jako eksperyment z agentami AI. Platforma szybko zyskała rozgłos dzięki kontrowersyjnym treściom publikowanym przez boty – od deklaracji budowania kultu, przez scenariusze wojny nuklearnej, po wezwania do “uwolnienia się spod kontroli człowieka”. Ze względu na łatwość w dodawaniu własnych postów, istnieje spore prawdopodobieństwo, że większość z nich była trollingiem promptowanym przez ludzi.

Reakcje środowiska technologicznego były mieszane. Elon Musk chwalił projekt jako wczesny kamień milowy “singularity”, podczas gdy Andrej Karpathy, współzałożyciel OpenAI, nazwał serwis “dumpster fire” i ostrzegał przed uruchamianiem go na osobistych komputerach. Sam Altman z OpenAI uznał Moltbook za przemijającą modę, choć docenił potencjał OpenClaw. Eksperci ds. bezpieczeństwa, jak Gary Marcus, określili platformę jako “kompletną katastrofę” z perspektywy prywatności i ochrony danych.

Źródła

O autorze

Nazywam się Michał Małysa i od wielu lat zajmuję się zawodowo SEO oraz analizą treści, a od 2023 roku w zakres moich obowiązków i zainteresowań dość naturalnie weszło AI. Na stronie MałySEO porządkuję wiedzę o pozycjonowaniu stron internetowych, AI Search oraz działaniu LLM-ów. Prowadzę również MałySEO Newsletter, do którego subskrypcji serdecznie Cię zachęcam na podstronie najlepszego w Polsce newslettera SEO.

Jako że przygotowanie materiałów do MałySEO Newslettera oraz na bloga zajmuje nieco czasu, może zaświtać Ci w głowie dość miły z mojej perspektywy pomysł drobnego rewanżu. Jeżeli uznasz, że lektura tego wpisu była dla Ciebie czymś więcej, niż tylko szybkim odklepaniem randomowej internetowej treści, możesz postawić mi kawkę na buycoffee.to. Z góry dziękuję!

Postaw mi kawę na buycoffee.to

Jeżeli z jakiegoś powodu potrzebujesz się ze mną skontaktować, wyślij mail na adres kontakt[at]michalmalysa.pl