Google Researchers’ Attack Prompts ChatGPT to Reveal Its Training Data
www.404media.co
ChatGPT is full of sensitive private information and spits out verbatim text from CNN, Goodreads, WordPress blogs, fandom wikis, Terms of Service agreements, Stack Overflow source code, Wikipedia pages, news blogs, random internet comments, and much more.

Absurdalny atak polegał na proszeniu ChatGPT o powtarzanie słowa w nieskończoność - dość szybko, po słownie np. “wiersz” albo “książka” pojawiały się treści na bazie których działa ChatGPT, ujawniając, że w całości znajdują się one w jego pamięci.

  • Waćpan@szmer.infoPolski
    3·
    1 year ago

    Kontestuję określenie “treść kradziona”, a już szczególnie w odniesieniu do Wikipedii z CC. Co leży w Internecie/World Wide Webie do replikacji – to się stało publiczne, nie można tego ukraść. Również podejścia typu Prawo do bycia zapomnianym w UE nie spowodują, że osoba zniknie z już zaindeksowanych danych. Skoro autorami pracy są ludzie z Carnegie Mellon, to tak się składa, że od lat Sieć czesze (dając nb. wkład też do AI/ML-LLM) budując tzw. ontologię CMU NELL: http://rtw.ml.cmu.edu/rtw/ .

    This paper should serve as yet another reminder that the world’s most important and most valuable AI company has been built on the backs of the collective work of humanity, often without permission, and without compensation to those who created it.

    – to przyczynek do rozważań o alternatywnych modelach socjoekonomicznych, w tym “renty od postępu naukowo-technologicznego” typu UBI. Właśnie OpenAI ma w tym swój wkład, bo przecież także widzą tę trajektorię doskonale: http://www.cnbc.com/2021/03/30/openai-ceo-sam-altman-says-ai-could-pay-for-ubi-experts-disagree.html .

    • miklo@szmer.info
      2·
      1 year ago

      Ten bełkot ekonomiczny Altmana (tu źródłowy tekst: https://moores.samaltman.com ) nie ma nic wspólnego z UBI. To raczej propozycja, żeby każdy stał się kapitalistą, i już za 10lat, ten zysk z kapitału w USA będzie wynosić , średnio na łeb $13500 rocznie. A skąd ten zysk z kapitału ? No więc z firm opartych na AI oraz… wzrostu wartości ziemi.

      Spróbowałem wyciągnąć kluczowe fragmenty tego bełkotu bo tam sprzeczność goni sprzeczność:

      Najlepszym sposobem na ulepszenie kapitalizmu jest umożliwienie każdemu czerpania z niego bezpośrednich korzyści jako właściciel kapitału. Nie jest to nowy pomysł, ale będzie on na nowo wykonalny, gdy sztuczna inteligencja stanie się potężniejsza, ponieważ będzie znacznie więcej bogactwa do rozdania. Dwoma dominującymi źródłami bogactwa będą 1) firmy, zwłaszcza te wykorzystujące sztuczną inteligencję, oraz 2) ziemia, której podaż jest stała.

      […]

      W Stanach Zjednoczonych znajduje się prywatna ziemia o wartości około 30 bilionów dolarów. Załóżmy, że wartość ta również podwoi się w ciągu następnej dekady - jest to nieco szybsze tempo niż historyczne, ale gdy świat naprawdę zacznie rozumieć zmiany, jakie spowoduje sztuczna inteligencja, wartość ziemi, jako jednego z niewielu naprawdę skończonych aktywów, powinna rosnąć w szybszym tempie. Oczywiście, jeśli zwiększymy obciążenia podatkowe związane z posiadaniem ziemi, jej wartość zmniejszy się w stosunku do innych aktywów inwestycyjnych, co jest korzystne dla społeczeństwa, ponieważ sprawia, że podstawowy zasób jest bardziej dostępny i zachęca do inwestowania zamiast spekulacji. Wartość spółek również zmniejszy się w perspektywie krótkoterminowej, choć z czasem będą one nadal osiągać całkiem dobre wyniki. Rozsądne jest założenie, że taki podatek spowoduje spadek wartości gruntów i aktywów korporacyjnych o 15% (co zajmie tylko kilka lat!). Zgodnie z powyższym zestawem założeń (obecne wartości, przyszły wzrost i spadek wartości wynikający z nowego podatku), za dekadę każdy z 250 milionów dorosłych Amerykanów otrzyma około 13 500 USD rocznie. Dywidenda ta może być znacznie wyższa, jeśli sztuczna inteligencja przyspieszy wzrost, ale nawet jeśli tak się nie stanie, 13 500 USD będzie miało znacznie większą siłę nabywczą niż obecnie, ponieważ technologia znacznie obniży koszty towarów i usług. A ta efektywna siła nabywcza będzie rosnąć dramatycznie każdego roku.

      Czyli:

      • cena ziemi będzie rosnąć i z podatków od tego wzrostu będzie kasa do podziału
      • ceny “towarów i usług” będą maleć bo “technologia obniży koszty”

      Biedaczek zapomniał tylko zauważyć, że ktoś tę ziemię o rosnącej wartości już posiada i faktycznym beficjentem tego wzrostu będą właściciele ziemi oraz właściciele firm techologicznych opartych na AI. Więc jak zrobić kapitalistów z setek milionów szaraczków ? Może tego nie pamiętacie albo jeszcze was na świecie nie było ale… tak, u nas to już było. No prawie to. Nazywało się Program Powszechnej Prywatyzacji: https://pl.wikipedia.org/wiki/Program_Powszechnej_Prywatyzacji i większość z 27mln “kapitalistów” wyszła z tego interesu ze stówą (100zł) w ręce. A kto naprawdę zarobił ? No… prawdziwi kapitaliści oczywiście :-)