Gdzieś między Polską a Niemcami, a szczególnie w NRD

Ostatnio omówiłem ogólne tło historyczne powojennej fascynacji potęgą rozumu. Dziś o tym, gdzie i jak fascynaci się mylili.

Każda, najfajniejsza nawet idea jest nic nie warta, jeżeli nie pasuje do realnie istniejącej rzeczywistości. W różnych dziedzinach ten reality check następuje w różnym czasie i w różnym nasileniu. Niektóre branże, na przykład filozofia (czy ogólnie nauki tzw. humanistyczne), mają znikomy styk z rzeczywistością, inne trochę większy, ale prawie zawsze da się ewentualne niezgodności wyprzeć jakimś "ale gdyby...". Jest jednak jedna branża w której od idei do jej brutalnej konfrontacji z rzeczywistością jest bardzo blisko - jest to informatyka. Przyjrzyjmy się więc informatyce omawianego okresu.

Realna - nie teoretyczna - informatyka, zaczęła się oczywiście od skonstruowania pierwszych, praktycznie działających komputerów. Najpierw programowano je czysto na wyczucie w kodzie maszynowym, później pojawiły się assemblery a potem pierwsze języki wysokiego poziomu jak Fortran czy Cobol. Syntaktyka tych języków została wymyślona zupełnie od czapy, jak tam się komuś wydawało że będzie dobrze. Wkrótce zaczęły się problemy z takimi odczapistycznymi definicjami - najbardziej znana jest historia błędu w programie fortranowym polegającego na tym, że ktoś zamiast przecinka w instrukcji pętli napisał kropkę. Skutek był taki, że sonda międzyplanetarna sterowana tym programem się rozwaliła. Zasadniczy problem polegał na tym, że języki programowania były zdefiniowane tylko opisowo w języku naturalnym, i każdy mógł interpretować taką definicję inaczej. I jak wtedy zapewnić, żeby ten sam program dawał te same wyniki skompilowany różnymi kompilatorami?

No i to było coś dla wyznawców rozumu - tym trzeba było się zająć naukowo. Zaczęto więc pracować nad dobrym definiowaniem języków programowania. Efektem tych starań był Algol 60. I trzeba przyznać, że to im się akurat udało. Algol 60 został zdefiniowany przy pomocy matematycznego formalizmu (notacji Backusa-Naura), pięknie i klarownie. Koncepcyjnie język ten nie różnił się znowu aż tak bardzo od obecnie używanych języków proceduralnych w rodzaju niegdysiejszego Pascala, C czy Javy (Javy bez obiektów oczywiście, obiekty to późniejsze koncepcje). W zasadzie jedynym istotnym błędem zrobionym przez projektantów tego języka było to, że nie pomyśleli o zdefiniowaniu instrukcji wejścia-wyjścia i każda implementacja miała inne. Ale ogólnie był to sukces idei.

Zachęceni sukcesem rozumowcy zajęli się następną ideą: Program zapisany jest przy pomocy matematycznego formalizmu. Całkiem jak na przykład twierdzenie matematyczne. Twierdzenie matematyczne dowodzimy, żeby sprawdzić czy jest poprawne. Dlaczego by nie zrobić tego samego z programem? Będziemy dowodzić poprawności programu tak samo jak twierdzenia i błędy w programach nie mają szans! No i oczywiście ten dowód ma zrobić automatycznie komputer!

Na pierwszy rzut oka idea była całkiem dobra. Pojawiło się mnóstwo prac i projektów na ten temat i nawet jakieś metody udało im się opracować. Ale teraz pytanie kontrolne dla czytelników zajmujących się programowaniem: Czy dowodzicie w sformalizowany sposób poprawności swoich programów? Jak sądzicie, dlaczego nie?

Ja wyjaśnię. Otóż ta koncepcja to totalne nieporozumienie. Dowiedzenie poprawności programu to wykazanie, że on robi dokładnie to, co ma robić. Skąd dowodzący poprawności komputer ma wiedzieć co program ma robić? Trzeba to zapisać w jakimś formalizmie. Łapiecie? Komputer ma porównać formalny zapis tego co program ma robić z formalnym zapisem tego jak program to robi. Czyli raz zapisujemy rozwiązanie problemu w formalizmie "celowym" a drugi raz w "implementacyjnym". No ale tak w zasadzie to jeżeli komputer potrafi porównać jeden formalizm z drugim, to chyba powinno się dać przekształcić jeden w drugi, czyż nie? Czyli ten nasz formalizm "celowy" to w zasadzie język jeszcze wyższego poziomu niż ten "implementacyjny". To tak właściwie na cholerę mamy pisać to samo dwa razy? Nie lepiej napisać raz, w tym języku wyższego poziomu, ale za to dobrze?

No ale załóżmy, że w jednym formalizmie napisze jeden człowiek, a w drugim drugi. Zawsze będzie to jakaś kontrola, co nie? To prawda. ale czy nie taniej i prościej będzie po prostu zrobić code review? I tak się bez niego nie obejdzie, jak chcemy robić porządnie.

Jest jeszcze drugi zarzut, o wiele poważniejszy. Przez takie formalne dowodzenie porównujemy nic więcej niż tylko dwie wersje rojeń na temat działania programu. Jeżeli obie wersje stworzy jeden człowiek, to nasze dowodzenie udowodni najwyżej, że jego rojenia są spójne. Przy dwóch różnych autorach będzie to dowód na spójność rojeń dwóch ludzi. Ale to nie jest wiele warte - tak naprawdę interesuje nas nie zgodność programu z rojeniami człowieka, tylko zgodność programu z rzeczywistością! Jeżeli programista będzie przekonany że jego program dostaje do obróbki znaki kodowane w ASCII to ŻADNE dowodzenie nie wykryje że program jest bez sensu, bo dane są w EBCDIC. Świat zewnętrzny, you fool!

I tak mniej więcej to się skończyło - pamiętam z jakiejś książki przykład udowodnionego i opublikowanego jako programu na 15 linii, w którym  przez ręczną analizę znaleziono 10 błędów. Jeszcze później prace matematyków wykazały, że na przykład rozstrzygnięcie czy pętla w programie się kiedyś skończy, czy nie, jest w ogólnym wypadku niemożliwe. Czyli to i tak nic nie da.

Oczywiście zgadzam się, że używamy dziś narzędzi sprawdzających to czy tamto w programach, ale z formalnym dowodzeniem nie ma to nic wspólnego.

I jeszcze: Nawet gdyby takie dowodzenie działało, to nadawałoby się tylko do niektórych, dobrze zdefiniowanych kawałków, na przykład do sortowania tabeli czy innych zadań algorytmicznych. Ale typowy, realnie istniejący program, to jest taki wielki, wielopoziomowy switch (ewentualnie schowany pod postacią hierarchii klas) wewnątrz pętli nieskończonej, jak i czego tu dowodzić?

No ale tymczasem rozumowcy zajmowali się dalszym doskonaleniem na drodze do ultymatywnego zapanowania nad przyrodą. Teraz miała powstać nowa wersja Algolu, tym razem idealna, uniwersalna i ultymatywna (serio zapewniali, że nic innego nie będzie już potrzeba!). Wytoczono najcięższe armaty: do definicji formalnej van Wijngaarden opracował gramatykę dwupoziomową, która dawała możliwość ślicznego i ścisłego opisania języka. Twórcy Raportu języka uważali że jest on tak piękny i skończony, że zostało tylko wycyzelowanie ozdobników. Każdy rozdział raportu ozdobiono pasującym cytatem z literatury, zadbano nawet o reguły ozdabiania rozdziałów przy tłumaczeniu ich na inne języki naturalne. Język nazwano Algol 68 i był to chyba jedyny język programowania który najpierw w 100% zdefiniowano formalnie, a dopiero potem przystąpiono do jakichkolwiek prób implementacji kompilatora. No i tu zaczęły się problemy. Jak już pisałem - świat rzeczywisty, you fool!

• Raport był słabo zrozumiały, bo użyta notacja nie była prosta. Aż trzeba było opracować całkiem nową, bardziej zrozumiałą jego wersję, zwaną Revised Report, potrwało aż do 1973. Przy okazji wywalono z języka parę konstrukcji jako zbędnych i przekombinowanych.
• Revised Report miał 280 stron tekstu i to tylko na formalizm plus krótkie komentarze. Przecież czegoś takiego nikt nie ogarnie! Dla porównania raport Algolu 60 miał stron ze czterdzieści włącznie ze skorowidzem, przeciętny, ogarnialny język daje się zamknąć w dwudziestu-trzydziestu.
• Raport definiował na przykład że słowa kluczowe mogą być w różne w różnych językach naturalnych. Każdy, kto używał formuł w różnych wersjach językowych MS Office z pewnością znajdzie dla tego pomysłu kilka prostych, żołnierskich słów.
• Parser Algolu 68 okazał się niespodziewanie trudny do napisania. Ludzie próbowali, próbowali, ale udawało im się parsować tylko podzbiory konstrukcji języka. A przecież definicja formalna była taka piękna!

Raport języka Algol 68

Wkrótce sprawa rypła się całkiem. Ktoś udowodnił, że gramatyki van Wijngaardena są nierozstrzygalne, czyli że napisanie kompletnego parsera tak zdefiniowanego  języka jest niemożliwe. No i to był cios w sam fundament projektu, który przecież miał być wspaniałym, ostatecznym i nieskazitelnym pomnikiem ludzkiego geniuszu. A okazał się być pomnikiem arogancji i zadufania.

Historia Algolu 68 jest typowa dla tamtych czasów i podobne znajdziemy również w innych branżach. Nimi zajmiemy się w jednej z następnych notek.

No dobrze, skoro Cybersyn nie wziął się z ideologii socjalizmu, to skąd? Zajmijmy się tłem historycznym tamtych czasów. Początek będzie pozornie od czapy, ale wiem dokąd zmierzam.

Przez całe wieki a nawet tysiąclecia znaczący udział w zwycięstwach militarnych´mieli rzemieślnicy produkujący broń. Bitwy i wojny wygrywała najczęściej strona mająca więcej i lepiej wyszkolonych żołnierzy i lepszych dowódców. Ale nie bez znaczenia była posiadana przez nich broń, a co najmniej od czasu wynalezienia miecza z miedzi robili i ulepszali ją rzemieślnicy.

Taki stan rzeczy trwał bardzo długo, ale w czasach rewolucji przemysłowej zwycięstwo lub przegrana zaczęły w coraz większym stopniu zależeć od inżynierów. Już Kościuszko w USA robił za generała, ale do zwycięstwa przyczynił się przede wszystkim jako wojskowy inżynier. Dalej widać to było coraz wyraźniej - w różnych wojnach w koloniach, w wojnie francusko-pruskiej, przewagę zdobywała strona mająca więcej i lepszą, przemysłowo produkowaną broń zaprojektowaną przez inżynierów. Szczytem była WWI, gdzie użyto mnóstwa nowych, wyinżynierowanych broni - na przykład sterowca, samolotu, okrętu podwodnego i całej masy inżynierskich ulepszeń broni istniejących.

Po WWI sytuacja uległa zmianie. To znaczy większość broni wymyślali nadal inżynierowie, ale zwycięstwo zaczęło w coraz większym stopniu zależeć od naukowców i to z pozornie niewojskowych specjalności. Na przykład od matematyków.

Już w wojnie polsko-rosyjskiej 1920 grożącą całkowitą klęskę udało się Polakom zmienić w zwycięstwo praktycznie wyłącznie dzięki pracy kilku matematyków o specjalności kryptologia. Kryptolodzy mieli swój zasadniczy udział w przebiegu i wyniku WWII, ale i inne specjalności dostały swoją szansę. Fizycy zrobili na przykład bombę atomową, obliczenia robili im inni matematycy. Ale o wiele większe znaczenie miały prace całego legionu innych, szeregowych matematyków, którzy zajmowali się optymalizacją efektywności wysiłku wojennego. Na przykład opracowywali statystyczne metody kontroli jakości, umożliwiające znaczące zmniejszenie ilości amunicji marnowanej w każdej partii na testy jakościowe. Albo rozpracowywali zagadnienia w rodzaju "czy dywizjon bombowców nocnych ma lecieć w szyku ciasnym - ryzykując zderzenia, czy luźnym - ryzykując zgubienie formacji albo zestrzelenie przez myśliwce". Kampanie wygrywano dzięki optymalizacji logistyki i minimalizacji strat.

Po wygranej WWII, jako synteza tych prac, powstała nowa dziedzina zwana "cybernetyką". Wcześni cybernetycy - jak to zwykle neofici - wierzyli że wszystkim da się bezproblemowo sterować i kierować. Naprawdę wszystkim, nie tylko prostymi układami. Tak samo miało się sterować temperaturą pieca, jak całą fabryką, mózgiem, organizmem żywym, ekosystemem (we współczesnym rozumieniu), społeczeństwem czy państwem. Dziś wiemy że były to mrzonki, że nawet pozornie proste systemy mogą być chaotyczne i sterowanie nimi nie jest trywialne abo wręcz jest niemożliwe.

No ale w tamtych czasach wszystko wyglądało na proste a nauka i rozum miały wkrótce zapanować nad całym światem ludzie mieli być dzięki temu szczęśliwi i żyć w dostatku i dobrobycie. Na pierwszy rzut oka taka koncepcja wydaje się być bardzo komunistyczna, ale tak myślano również w krajach kapitalistycznych. Wystarczy zajrzeć na okładki pism popularno- naukowych tamtych czasów. Czy to "Młody Technik",

Okładka pisma "Młody Technik"

czy "Technika Mołodieży",

Okładka pisma "Technika Mołodieży"

czy "Popular Mechanics"

Okładka pisma "Popular Mechanics"

- wszędzie widzimy taki sam futurystyczny, czysty, stechnicyzowany świat wielkich budowli, szybkich pociągów, wspaniałych samochodów, olbrzymich statków, wielgachnych pojazdów latających i lotów międzyplanetarnych. No i wielkich, inteligentnych komputerów.

A to wszystko miało być możliwe dzięki cybernetyce. Niedługo wcześniej wynalezione tranzystory umożliwiły zbudowanie układów elektronicznych naśladujących zachowanie organizmów żywych. To znaczy tak twierdzono, w praktyce były to proste zabawki elektromechaniczne, byle by miały jakiś czujnik. Na przykład słynne "cybernetyczne żółwie" były to po prostu elektryczne samochodziki z czujnikami, reagujące na przykład na dojechanie do krawędzi stołu. No ale było jakieś sprzężenie zwrotne, więc zabawka była cybernetyczna. Wkrótce praktycznie każda zabawka z silnikiem elektrycznym (jeżeli nie była zdalnie, wtedy przewodowo, sterowana) nazywała się "cybernetyczną".

Cybernetyczny żółw - skan z książki Janusza Wojciechowskiego "Nowoczesne zabawki" (1963)

Kiedy wymyślono perceptron - czyli prostą sieć neuronową - wydawało się, że wkrótce da się skopiować mózg człowieka, a potem taka kopia będzie odwalać za człowieka robotę intelektualną. Miało to być tak niedługo, że nawet realnie istniejące wtedy komputery nazywano już na zaś "mózgami elektronowymi".

Popatrzmy na popkulturę tamtych czasów - na Star Treka, radziecką Mgławicę Andromedy czy na Lema (który jak zwykle wszystko przewidział). A zwłaszcza na Cyberiadę/Bajki robotów, gdzie wszystko jest cyber, nawet cyberberysy.

Cyberiada była oczywiście w dużym stopniu satyrą, ale fascynacja cybernetyką - i w ogóle potęgą rozumu - naprawdę istniała. Wszędzie planowano przerobienie świata, w ZSRR chciano zawracać rzeki wyrąbując kanały atomówkami, w Niemczech koryta większości rzek wybetonowano, żeby porządnie płynęły. Na Nilu zbudowano wielka zaporę, bo wylewał, itd. itd., wszystko miało być lepiej, bardziej naukowo. Jak na razie sukcesy były znaczące. "Zielona rewolucja" bardzo zmniejszyła zasięg klęsk głodu w różnych krajach, szczepionki i antybiotyki zmniejszyły śmiertelność, człowiek poleciał w kosmos i postawił stopę na Księżycu.

I to jest moment, w którym rozpoczęto projekt Cybersyn. Jeszcze wszystko wydaje się proste, świat wydaje się iść ku lepszemu, cybernetyka (w szczególności społeczna) ma być szansą lewicowego rządu Chile na przeciwstawienie się wpływom amerykańskiego wywiadu, starającego się ten rząd obalić. Trochę zadziałało - zainspirowany przez CIA strajk kierowców udało się przetrwać, chociaż niekoniecznie dzięki cybernetyce. Kolejnej próba obalenia rządu była jednak udana, cybernetyka nie pomogła. System nie był gotowy, ale bardzo wątpię żeby działający był w stanie uratować Allende, a nawet dobrze działać. Wyznawcy cybernetyki i potęgi rozumu byli zbyt optymistyczni, już w początku lat 70-tych zaczynało to być widoczne. A przynajmniej widać to z dzisiejszej perspektywy.

Po czym to widać? Ooooo - na to mam mój ulubiony przykład. O nim w następnej notce.

Znowu ktoś w sieci przypomniał Cybersyna a mi się przy tej okazji przypomniało, że od dawna mam napisać na zbliżony temat notkę. Mam dużo do powiedzenia, więc chyba będę musiał podzielić notkę na kilka części.

Przypominający (pominę link) w Cybersynie zobaczył ideologię socjalizmu, co wprawiło mnie w zdumienie, jeszcze większe gdy się dowiedziałem że jest starszy ode mnie. Z drugiej strony nie tylko on widzi w tym czysty socjalizm, na przykład hasło Projekt Cybersyn w Wikipedii po angielsku należy do kategorii Socjalizm. Ja tam myślę, że to straszne spłycenie tematu. Ale może po kolei, najpierw o samym Cybersynie.

Cybersyn był to projekt z początku lat 70-tych (1971-1973), realizowany w Chile za lewicowego prezydenta Salvadora Allende. Celem projektu było zrobienie komputerowo wspomaganego systemu centralnego zarządzania gospodarką całego kraju.

No ale w roku 1971 komputery i telekomunikacja w ogóle nie przypominały tego, co mamy dzisiaj. Komputer wtedy był to mainframe, zazwyczaj linii IBM/360 (skopiowanej w naszym bloku jako RIAD R1) a do cyfrowej łączności służyła sieć teleksowa. Robiłem kiedyś w urządzeniach teleksowych, to był mój pierwszy większy projekt (i to jeden z bardziej udanych), muszę kiedyś o tym napisać. Ale to innym razem.

No i system Cybersyn powstał na właśnie takiej bazie sprzętowej. W fabrykach zainstalowano teleksy, przez które codziennie meldowano do centrali 7 podstawowych parametrów, typu produkcja, zużycie materiałów czy absencja pracowników, a na tej podstawie centrala podejmowała decyzje.

Jeżeli spojrzymy na to z dzisiejszej perspektywy zobaczymy, że dziś podobna sprawozdawczość i podejmowanie decyzji na podstawie danych przychodzących na bieżąco jest standardem, nazywa się controllingiem i nie ma nic (ale to zupełnie nic) wspólnego z socjalizmem. To typowe narzędzie zarządzania stuprocentowo kapitalistycznym koncernem. Niektórzy widzą w państwie socjalistycznym najwyższą formę koncernu monopolistycznego, tu pasuje.

Ta telekomunikacyjna część projektu całkiem się zresztą udała - dzięki sieci teleksowej udało się na przykład podczas wielkiego strajku  kierowców ciężarówek w Santiago w roku 1972 utrzymać zaopatrzenie stolicy w żywność. Wystarczyło 200 łamistrajków i komunikacja teleksowa. Też czysty socjalizm, co nie? W niektórych źródłach można przeczytać że to był efekt działania systemu, potwierdzenie sensowności stojących za nim koncepcji itp., ale tak naprawdę soft w ogóle nie miał w tym udziału, chyba nawet jeszcze nie działał. Wystarczyła sama łączność.

Nawiasem mówiąc w Polsce w następnych latach, niewykluczone że pod wrażeniem tej właśnie akcji, postawiono teleks w każdej gminie. Tyle że nie wyszło to za dobrze, bo te teleksy były mało wykorzystywane, a naprawdę użyła ich dopiero Solidarność w latach 1980-1981 masowo przesyłając tą siecią swoje biuletyny i koordynując swoje działania - bo był to nie kontrolowany przez władze kanał łączności.

No ale łączność jak łączność, teleks to nic rewolucyjnego - sieć istniała już od dziesięcioleci (standard pochodzi z lat 30-tych), to już bardziej rewolucyjne były początki Internetu w USA (ARPANET, 1969). Przyjrzyjmy się raczej, co oni chcieli robić z tymi danymi.

Dane z fabryk lądowały na komputerze IBM/360, a typowy wtedy terminal to był właśnie teleks - transmisja była cyfrowa i to połączenie działało bez problemu. I teraz na podstawie tych danych komputer miał liczyć prognozy makroekonomiczne i generować alarmy, a taka prognoza miała być podstawą do podjęcia ewentualnych działań jak coś szło w złą stronę. Z dzisiejszej perspektywy nic szczególnego, controlling jak controlling, no może poza skalą. Tyle że z tego co się orientuję, to dziś robi się controlling głównie danych finansowych albo logistycznych (te drugie niezbędne zwłaszcza przy produkcji just-in-time), oraz zarządzanie projektami,  natomiast nie za bardzo działa to dla parametrów bardziej globalnych.

Na czym polega problem? Żeby coś prognozować i czymś sensownie sterować musimy mieć tego model. Przepływ towarów albo pieniędzy jest dobrze określony i da się prosto wymodelować, z siecią różnych fabryk już tak łatwo nie jest, a z makroekonomią całego państwa to już w ogóle. Z tego względu program Cybersyna (o nazwie Cyberstrider) oparto na sieciach neuronowych - co teoretycznie pozwala na zastąpienie porządnego modelowania uczeniem sieci. Tyle że nauczenie takiej sieci wymaga dłuższego zbierania danych i - przede wszystkim - przećwiczenia reakcji systemu również w sytuacjach niepożądanych. A przecież trudno wywołać parę kryzysów tylko po to, żeby nauczyć sieć. Doświadczeń na królikach też się nie da zrobić. Jaki z tego wniosek? Prosty: To nie ma szansy dobrze działać.

No a teraz ta najciekawsza część: Zasadniczą częścią projektu był pokój do sterowania całym systemem. Co tam opisy, lepiej zobaczyć zdjęcie:

Pokój sterowania systemu Cybersyn Autor: nieznany

Ale odjazd, nie? Typowe SF tamtych czasów. Projektant zarzekał się, że nie oglądał Star Treka, ale w innych filmach też takie rzeczy były (często jako sterownia głównego badguja starającego się opanować cały świat). Projektantom chodziło o przedstawienie danych w postaci dostępnej dla niefachowca, a jakiekolwiek GUI jeszcze przecież nie istniało. Za bajeranckim wystrojem wnętrza i futurystycznymi fotelami nie stało jednak nic szczególnego - na tych ekranach wyświetlane były po prostu slajdy. Wybierane przez komputer ze sporego magazynka (rzędu 4000 sztuk w sumie), ale jednak statyczne slajdy (znalazłem w sieci wypowiedzi ludzi podobno zaangażowanych w projekt, brzmiało sensownie). I jeszcze mogły być wykresy robione na poczekaniu na papierze przez ludzi w sąsiednim pomieszczeniu.

Jakie były dalsze losy tego systemu? W roku 1973 pucz obalił prezydenta Allende, centrum sterowania zostało zniszczone. I tak była to tylko makieta, bo nie zdążono zrobić go do końca. Nad oprogramowaniem zespół pracował dalej, w 1985 roku wprowadzono je na rynek pod nazwą Coordinator, a potem system został sprzedany Novellowi. I słuch po nim zaginął, w latach 90-tych jeździłem na szkolenia Novella i byłem CNE (Certified Novell Engineer), ale o niczym podobnym nawet nie wspominali.

Wiki jako koszt całego projektu podaje 150.000 USD z roku 1973 (na dzisiejsze jakieś milion sześćset), co wydaje mi się drobniakami. Projekty w których robię mają budżety zbliżonego rzędu, albo nawet wyższe, a nie są to jakieś wielkie rzeczy.

A teraz do rzeczy. Polemizuję konkretnie z tezą, że projekt Cybersyn to produkt ideologii socjalizmu. Według mnie to czysto kapitalistyczny controlling podniesiony na poziom całego państwa. Jedyne co się wzięło z socjalizmu to właśnie to podniesienie - gospodarka jest planowa, a państwo jest właścicielem fabryk i może ingerować w ich działanie bezpośrednio. Ale i państwo kapitalistyczne ma swój plan (co prawda głównie finansowy)  i pewne - chociaż mniejsze - możliwości ingerencji, więc podobny controlling ma sens i w kapitalizmie.

Więc skąd się to wszystko wzięło, skoro nie z socjalizmu? O tym w następnej notce.

PS: Znalazłem działającą stronę Cybersyna w sieci: http://www.cybersyn.cl/ingles