Zadnje čase berem o apokaliptičnih napovedih znanstvenikov in vizionarjev o koncu sveta zaradi tretje svetovne vojne, ki naj bi jo začela kar vojaška umetna inteligenca. Takšne napovedi me čudijo, če jih izrekajo ljudje, ki dejansko razvijajo umetno inteligenco, ker naj bi nam s tem olajšali življenje.
Umetne inteligence me sicer ni strah, mi gre pa na živce. Zdaj menda počasi že prihajamo v fazo, ko ne bomo več potrebovali ljudi niti za relativno zahtevna opravila, kot je recimo šofiranje tovornjakov in mestnih avtobusov, niti za relativno zahtevnejša opravila, kot so lektoriranje, prevajanje, slejkoprej morda tudi pisanje besedil ter opravljanje odvetniških storitev. In če ne bomo potrebovali advokatov, zakaj bi še imeli tožilce, sodnike in sodne zaostanke, ko pa lahko umetna inteligenca razsoja hitreje in z večjo verjetnostjo pravilne odločitve kakor tako neinteligentna bitja, kot so ljudje. Nazadnje se bo umetna inteligenca verjetno naučila ustvarjati tudi umetniška dela precej večje vrednosti od te, ki so jo sposobni doseči umetniki in s tridimenzionalnim tiskalnikom bo lahko kar računalnik nabrizgal popolno umetniško delo.
Seveda se pojavi vprašanje kdo bo sploh še kaj delal, saj bodo nazadnje, ko se bo umetna inteligenca naučila razvijati umetno inteligenco, odveč tudi meseni razvijalci umetne inteligence. V idealnem svetu bi bil to ultimativni dosežek, če verjamemo, da so izumi plod lenobe oziroma rezultat poskusov kako si olajšati delo. Vprašanje pa je ali si delo res olajšamo. Rekli so nam tudi, da nam bo delo olajšal internet pa potem aplikacije za pametne telefone. A ta tehnologija nič ne pomaga, če delamo več kot kadarkoli po tistem, ko so si delavci izborili osemurni delavnik, dela proste dni, odmor za malico dopust, bolniški dopust in tako naprej.
Strah, da bodo stroji ljudem odvzeli delovna mesta, je bil morda neupravičen, je pa tudi res, da stroji niso kaj dosti pripomogli k temu, da bi ljudje delali manj. Morda je delo fizično manj naporno, a ljudje še vedno osem ur dnevno,petkrat ali šestkrat tedensko, tudi ponoči, ždijo v trgovinah, rudnikih ali lakirnicah avtomobilov – pa še veseli so, da sploh imajo službe, četudi za mizerno plačo, ki vsak čas ne bo več konkurenčna umetno inteligentnim robotom.
Zame bi bil napredek, če bi preživeli kljub temu, da nam ne bi bilo več treba opravljati umazanih ali nadležnih del. Moja služba mi je recimo kar všeč, vključno s primitivnim tipkanjem, a bi petdeset odstotkov opravil brez težav pogrešil in v tistem času raje počel kaj zabavnejšega, obenem pa bi se vseeno počutil koristnega in izpopolnjenega. Verjamem, da bi se marsikdo zelo rad odkrižal prav vseh svojih službenih zadolžitev in da po drugi strani mnogi v svojem delu blazno uživajo. Neizbežno se pojavi vprašanje kako vse te ljudi pošteno nagraditi: lenuh se bo še vedno razburjal, ker zasluži premalo, garač pa zato, ker lenuh zasluži preveč.
Življenje brezhibnega prometa, brezhibnih besedil in prevodov brez napake ter bolj poštene pravne prakse se sliši pravljično, a bi bilo tudi skrajno dolgočasno. Nočem, da hladilnik sam naroča jajca. Raje sem bolj verjetno žrtev človeške napake v prometu kot žrtev manj verjetne napake v mojem lastnem avtomatiziranem vozilu, ki je sicer statistično bistveno sposobnejše od moje malenkosti. Predvsem pa nočem postati še večji debil kot sem postal že zaradi pametnega telefona. Ljudje morajo nekaj početi in dobro je, če poleg tega uporabljajo tudi možgane.
Sploh pa ne morem zaupati razvijalcem umetne inteligence, ki svarijo, da bo umetna inteligenca zakuhala poslednjo vojno. Če je umetna inteligenca res tako zelo inteligentna, po mojem skromnem mnenju nikdar ne bi storila tako kapitalne neumnosti, kot je verjetno ne bosta zakuhala niti Kim Jong Un ali Donald Trump.
27 komentarjev
Če misli umetna inteligenca začet kako vojno, naj jo še sama bojuje. Jaz se ne mislim odvzvat na poziv za rekrutiranje, ki ga bo inteligenca po pošti poslala. Naj gre ona na fronto. Jaz jo bom pa spremljal prek interaktivne televizije čez strelske jarke.
Bojim se, da je zadeva mišljena tako, da ti bo nek robotoizirani general z inteligenčnim kvocientom 250.000 in ničelno čustveno inteligenco za strelski jarek spustil čisto pravo atomsko bombo, pri čemer se sploh ne bo oziral na diplomatske rešitve sporov in ostre proteste Združenih narodov.
Računalnik sestavljata hardware in software. Hardware predstavlja skelet, torej fizikalno podlago, zaradi katere računalnik pridno računa. To je lahko par zobnikov, vakuumske cevi, mikročipi, par kvantnih delcev ali pa gmota nevronov. Od tega je preprosto rečeno odvisna procesorska moč naprave, torej koliko operacij lahko izvede v dani časovni enoti. Večina zaskrbljenosti nad AI izvira iz tega, da je po Moorovem zakonu procesorska moč računalnikov sposobna doseči in tudi preseči ekvivalentno procesorsko moč človeških možganov še v času naših življenj, kar bo verjetno zgodovinski trenutek. Na drugi strani je software, ki dejansko predstavlja algoritme, ki tvorijo množico pravil, s katerimi računalnik računa. Preprosto rečeno algoritem števila, ki jih vržeš v stroj, preračuna v neka druga števila. Zaenkrat je glavna razlika med človeškimi možgani in tudi najbolj naprednim super računalnikom ta, da ni noben algoritem sposoben stati ob boku dogajanju v človeškim možganih. Obstajajo že algoritmi/programi, zaradi katerih lahko računalnik npr. prepoznava pisavo, podobe na slikah ali premaga človeka v partiji šaha, vendar je zaenkrat nemogoče ustvariti nekaj umetnega, kar bi bilo na ravni človeka. Dokler ne bomo dovolj dobro razumeli, kaj je tako posebno na delovanju možganov, je nekaj takega znanstvena fantastika. Ko nam uspe to….
Mislim da je pametno, da se o možnih pasteh umetne inteligence pogovarjamo že desetletja preden bo umetna inteligenca dohitela človeško. Potrebno se je vprašati, kaj dejansko želimo od AI in česa si ne želimo. Jaz osebno menim, da je absoultno potrebno nadaljevati raziskovanje v tej smeri, vendar se je pri tem potrebno tudi iskreno vprašati, kakšne so možne posledice določenih dejanj.
Prav tako mislim, da poljudni mediji s svojim senzacionalizmom ne prispevajo ravno h konstruktivni debati, saj niso nujno najbolj verodostojen ali sploh strokoven vir informacij kar se tiče teme umetne inteligence, ker je to področje še vedno precej v povojih. AI je pač neko področje, ki je še tako novo, da tudi strokovnjaki nočejo dajati preveč gotovih napovedi.
Če prav razumem, mediji v zvezi z apokalipso umetne inteligence citirajo Elena Muska in Stephena Hawkinga. Zadnjič sem pa nekje bral napovedi Dieterja Zetscheja, ki so se brale približno tako šokantno, kot da 9 od 10 bralcev tega bloga že čez 10 let več ne bo imelo svoje službe. Lepše se sicer sliši, da se bomo nekako prekvalificirali, ampak dvomim, da je to sposobna več kot polovica od teh devetih – pa ne da bi kogarkoli podcenjeval.
Mislim da Stephen Hawking in Elon Musk dejansko nista povedala nečesar, kar bi bi pozivalo k zaviranju razvoja. Hawking je npr. izjavil: “Computers can, in theory, emulate human intelligence, and exceed it,” he said. “Success in creating effective AI, could be the biggest event in the history of our civilization. Or the worst. We just don’t know. So we cannot know if we will be infinitely helped by AI, or ignored by it and side-lined, or conceivably destroyed by it.” Vidno je da ni izjavil nečesa v stilu: ”Ali bomo mi računalnike al pa oni nas!!” Povedal je, da si zaenkrat ne moremo ustvariti jasne predstave o tem, kaj nas čaka v prihodnosti. Zato je tudi Muskovo ustvarjanje organizacije, ki se bo ukvarjala z raziskovanjem umetne inteligence, hvalevredna poteza.
Mene bi najbolj skrbelo, če bi AI dosegla takšno kompleksnost, da pravzaprav ne bi več vedeli, kaj točno počne. Da bi se AI naenkrat znašla na nivoju, kakršnim trenutno stoji človek napram mravlji. Takrat bi si lahko mislili le ”all bets are off”. In upam, da se glede služb in tega ne bo končalo tako kot v Vonnegutovem Klavirskem avtomatu.
@disguy: ze najbolj preprost kalkulator je po procesorski moci zmogljivejsi od cloveskih mozgan. Zracunaj 820X 799 v tisocinki sekunde, ce mores.
@matej: ne da se ne bi bili sposobki prekvificirati, preprosto ne bo dovolj dela za vse, ker bodo delo opravljali roboti.
@Boki: ALi lahko najbolj preprost kalkulator v tisočinki sekunde sprocesira toliko signalov, kolikor je ocenjena aktivnost človeških možganov? Za simulacijo 1 sekunde aktivnosti 1% človeških možganov, torej 1.73 milijard nevronov z 10 milijard povezav potrebovali računalnik z okoli 10^15 bytov spomina, ki je laufal 40 min. Mislim, da je to kar precej več procesorske moči kot kalkulator. Zmnožiti 820 z 799 v 0.001 s pa ne znam, ker je to z evolucijskega vidika nekaj nepotrebnega – v naravi ti pri preživetju ne pride malo prav.
Vir: https://www.sciencedaily.com/releases/2013/08/130802080237.htm
Vsa ta procesorska moč se ne izrazi le v tem, da smo sposobni računati, ampak tudi v tem, da se vsak delček sekunde zavedamo signalov, ki jih pošiljajo čutila, da obstaja komunikacija med vsemi nevroni v možganih, ki jo je mogoče ustrezno izmeriti in kvantificirati… Morda velja, da je človekova računska moč izvajanja aritmetičnih operacij na pamet precej manjša od nekega kalkulatorja, vendar je aktivnost tako velikega števila nevronov v možganih tako velik , da je nesmiselno trditi, da so možgani manj sposobni od česarkoli, kar je ustvaril človek.
Umetna inteligenca v večini primerov ni nič drugega kot skupek spodobno spisanih algoritmov in je še precej daleč od umetne inteligence, ki jo skušajo prikazati nekateri mediji.
V bistvo je tako, ali si zraven ali pa te ni. Ali se bojis tehnologije, in si kot pravi slovenec apriori proti ali pa gres z tokom in casom naprej.
Za zdaj se gre bolj za IoT boom, kot AI boom. Procesorska moc je ze tam oz bo kmalu, semiconductorji so ze stavili na AI, in bodo kmalu zaceli masovno izdelovati manjse, boljse chipe, vec kot primerne za AI. Milijardne investicije so ze tu. Milijarde so v bistvo ze v obtoku. Gradi se ze. Njihove delnice so ze odreagirale, sploh zadnje leto, so se mocne podrazile. Avstrijci mocno delajo na tem, s svojo univerzo, s svojo korporacijo in tudi ustvarja se nekaksen evropski koncern. Na juzni strani alp, pa poslanci vozijo nekega nepombnega sirca v parlament. Torej vse po starem.
Novi chipi, ( kot je ze omenjeno) bodo ponudili neverjetno tehnologijo, na korporacijah, vladah pa je kako hitro se bo izkoristil ta potencial. Ce v preteklosti, hardware ni mogel slediti softwar idejam, je zdaj obratno. In AI je izjemno zapletena, potrebni so ogromni vlozki, in stvari bodo sle naprej bolj pocasi kot si ljudje prestavljajo, in drugace kot vidimo v filmih. Glavni problem, je da ni dovolj dobrih programerjev, matematikov. Gre se celo tako dalec, da velike firme klicejo naokoli in prosijo, da prides delati.
Pri nas je politika iz države pregnala že par visokotehnoloških podjetij, npr. proizvodni oddelek Pipistrela. In zdaj vlada zganja tak cirkus, kot da je neka ušiva lakirnica vrhunec tujih investicij.
Dobro jutro g. Zalar,
za sedaj vsa ta tehnika še ni na ravni pameti enega komarja. Pomislite, koliko procesorske moči je v drobni komarjevi glavi, da zmore izvajati programe za upravljanje s šestimi nogami, paroma kril, program za pikanje, za nevarnost, za pilotiranje v temi in dežju…..in vse ostalo. Kakšne nerode smo še vedno z našimi čipi in škatlicami.
Ras rabimo AI, da nam bo povedala, da je na Zemlji sedem miljard ljudi, od katerih večina nima možnosti misliti in karkoli narediti zase za izboljšanje svojega vsakodnevnega življenja.
Če bo pa kdaj AI povedala, da noben človek ne potrebuje na mesec več denarja kot 5 000 €, potem jo pa zagotovo ne bomo več razvijali. Sploh pa, če pove, da so vojne totalna neumnost in zabloda človeške vrste.
Pozdrav,
Stane Debevec.
Futurizem in tehnološke napovedi so navaden bulšit. Že pisci kot Jules Verne ali H. G. Wells (in mnogi pred njima) so sanjali o krasnem novem svetu, kjer bodo roboti delali namesto ljudi, bolezni bodo odpravljene in vsi bomo samo še uživali. Odtlej vztrajno najeda ta naivna in infantilna miselnost o tem, da tehnologija dela človeku v prid in da človeštvo linearno napreduje. Če pogledamo skozi okno ali na drug konec sveta — ali kdo kje vidi ta čudovit napredek in te sijajne človekove pripomočke? Zakaj se o tem sploh še pogovarjamo, če pa so zgodovinske izkušnje popolnoma drugačne?
Resnica je očitno prav nasprotna: človeštvo (vsaj civilizacijsko in duhovno) močno nazaduje. Osebno sem mnenja, da celostna umetna inteligenca, emotivno in analitično primerljiva s človeško, nikoli ne bo izvedljiva. Kot tudi nikoli (ali pa še neskončno dolgo) ne bomo hodili po Marsu, pa naj filmi prikazujejo karkoli. Prepričan sem, da bo prihodnost bolj kot Blade Runnerju (1982) veliko bolj podobna Pobesnelemu Maxu (1979).
@Boki: Saj če ni dovolj dela, to niti ni tako napačno … po nekih teorijah naj bi se potem obdavčevalo robote in predstavljam si, da bi ubogo ljudstvo potem res dobilo nek UTD za nič dela. Kar seveda ne more funkcionirati niti v toeriji.
Osebno se, kot pravim, sploh ne bojim, da bi umetna inteligenca v doglednem času nadomestila denimo vojsko, vsaj ne v takem obsegu, da bi lahko sama zakuhala tretjo svetovno vojno. Ali da bi lahko odlično prevajala. Bolj me skrbi, da bo recimo prevajala slabo, a bo tako poceni, da se nikomur ne bo splačalo plačevati dražjih prevajalcev ali pa jim bodo plačali trikrat manj, ker bodo recimo samo preleteli prevedeni tekst.
Do neke mere se bomo temu lahko prilagodili, seveda, ampak ves tehnološki napredek gre v smeri banalizacije, nižanja kakovosti in standardov in čedalje večjega razkoraka med nesramno bogatimi in brutalno revnimi, pri čemer se srednji razred pomika proti brutalno revnim in ne navzgor.
@Filmoljub: Ja, tvoji teoriji prihodnosti v prid po mojem govori tudi zgodovina propadov civilizacij, ki so se, zanimivo, vedno dogajali, ko so dosegle višek. Se pa bojim, da bo prihodnost Mad Maxa le posledica prihodnosti Blade Runnerja.
Nedolgo nazaj sem zasledil članek, ki je govoril od dveh napravah/robotih, ki ju razvijajo v smeri, da se učita tudi sama. Menda sta poleg prednaloženega jezika v kratkem času razvila tudi svojega lastnega, s katerim sta si pomagala k hitrejši komunikaciji ob izpolnjevanju dane naloge. Tega jezika človek ni razumel in so ju preventivno izključili.
Tu pa mene že malo začne skrbet, koliko imamo dejansko nadzora nad takim razvojem… samoučljiva AI se meni osebno ne zdi pametna smer…
@matej zalar
To so pa ze neupraviceni strahovi. Standard se dviguje, milijoni kitajci prihajajo iz revscine v srednji sloj, indijci bodo kmalou sledili, z africanami pa bomo videli se:). Od zacetka IT booma je ze 30 let in imamo zgodovinsko nizko brezposlenost v vseh vecjih IT razvitih drzavav. Nemcija, zda, japonska, kitajska,britanija, in potem nekoliko manjse kot so juzna koreja, tajvan, canada, avstralija, deloma svedska, finska itd. Na drugi strani pa imamo drzave z mocnim socialistim znacajem, katere je cas povozil, kot je skoraj vsa vzhodna evropa, italija, spanija, itd. Francija je nekaksen posrecen zmes pretiranega socializma, z mocno tehnolosko tradiciji. Ni razvoj tehnologije kriv, da ljudje nimajo sluzbe, vendar ljudje sami, ker pac niso sli v korak z casom. Ali se prilagodis, ali pa pizdis na tehnologijo, globalizacijo, komunizem in ne vem se kaj.
Govoriti, da tehnologija poneumlja je za lase privleceno. Kak za koga. Kot, da so nasi predniki, kmetje bili res hudi intelektualci. Imamo nekaksne utopicni idealisticne prestave o njih. Medtem, jih je bla polovica alkoholikov, nasilnezov. Veliko potrebo so opravljali vene na prostem, ponoci so se pa tresli od mraza in umirali pri 50 zaradi lastne neumnosti in primitivnosti.
Bil je tisti nori anglez, ki je na zacetku industrijske revolucije v 17 stoletju razbijal stroje, mislec, da jemljejo delo delavcem. 300 let pozneje ne bos verjel, se vedno imamo delavce, sicer jih je v razvitih drzavah manj kot 25 %, vecina folka vec ne svica v fabrikah, ampak dela v storitvenem sektorju. In gledano, na materialno udobje, nikoli nam ni bilo tako lepo.
Vsi ti roboti, potrebujejo slosarje za izdelavo nekaterih delov, potrebujejo elektricarje, mehanotrike, in ostale vzdrzevalce. Potrebujejo programerje. Potrebujejo planerje, organizatorje itd. In ti vsi zasluzijo ogromno, da lahko trosijo. Potem nekdo mora vse to organizirati, da oni lahko trosijo, in usvarjajo.
Roko na srce, v zgodovini, nikol se ni blo ponujeni toliko dobro placanih sluzb.
Se pa bo vse manj rablo ljudi, ki niso dovolj specializirani. Pac mali manualni, fizicni in prestraseni narodi, ki mislijo, da so najbolj pametni na svetu, bodo ostali ozadaj, ne bodo konkurencni. In tudi njim, se bo vseeno zdignil standard, bodo pa perifija ostalim ja. Azijski turisti bodo hodili v slovenijo, kot sem slisal da ze delajo japonci, kateri se slikajo ob slovenskih vlakih, gledati kako sploh izgleda tehnolosko zaostala druzba.
Svet bo cez 30 let veliko bolj prijetnejsi, kot danes.
Kot da je danes svet veliko prijetnejši kot pred 30 leti. 🙄
@Kren: Mene pa fascinira prepričanje, da bodo inteligentni stroji dejansko želeli zavladati svetu in da bodo iztrebili ali podjarmili ljudi. Zakaj bi bili v tej želji po prevladi podobni človeškim bitjem? Mar naj ne bi bili inteligentnejši? Why Can’t We All Just Get Along?
@Jazsembog: Saj po eni strani imaš prav. Ampak tako kot preteklosti ne bi romantiziral, do nje tudi ne bi bil preveč strog. Se pa bojim, da smo intelektualni vrh te družbe, mislim splošno gledano na celotno populacijo, že dosegli, in se bojim, da gre zdaj počasi navzdol. Je to, da nihče več ne zna uporabljati zemljevida, znamenje napredka ali nazadovanja. Ali tisti, ki ne zna več brati zemljevida, nekaj drugega obvladuje bolje? Je znamenje napredka dejstvo, da so otroke v Skandinaviji nehali učiti pravopis. Je glasbena ali recimo filmska produkcija zdaj boljša kot pred dvajsetimi, tridesetimi leti? Vsaj za to zadnje sem že zdaj prepričan, da ne.
@Filmoljub: Kaj pa vem, jaz osebno sem se imel verjetno pred 30 leti kar dobro, nisem pa prepričan, da so takrat enako menili vsi tisti, ki so bili leta 1987 stari 34 let. Me pa moti to nekritično navduševanje nad fantastično prihodnostjo in po drugi strani nazadnjaška paranoja pred prihodnostjo. Še enkrat, pred tridesetimi leti se je morda na tem področju res živelo najbolje v zgodovini človeštva, je pa vprašanje kaj je bilo pred sto, dvesto, petsto leti.
So pa lahko to kar kakovostne debate. Moramo počakati kaj bo imel tokrat povedati anonimnež iz elitne soseske.
IoT in AI sta stvarnost, ne neke daljne prihodnosti, ampak ze najine generacije Matej, in se bolj generacije nasih potomcev. Mi tu lahko debatiramo, kaj so plusi, kaj so minusi, vendar to je stvarnost. Lahko se na to prilagodimo ali pa ne.
Gorenje bo v stecaju cez 10 let, politika ga bo na skrge drzala verjetno se naslednjih 20 let. Smo sposobni resiti gorenje? Smo mu sposobni najti strateskega parterja ali tehnoloskega kupca iz azije. Ne, nismo. Kot narod bomo ziveli v preteklosti. Seveda, lahko zivim v tujini, in vse, ampak ob koncu dneva sem slovenec. Lepo bi bilo ziveti, doma, v normalni drzavi, ki gre s korakom z casom.
Zdaj gledati, da je svet bil pred 30 leti boljsi je napacno. Mogoce, za slovence, ki ljubimo mir in pasivnost. Stalne fake sluzbe, in pocasno zivljenje. Pa vendar blizina zahoda, ki nas hrani, ne glede na to kako neumni smo vcasih. In potem neuspela tranzicija. Zlata leta rokenrola, fest in spontanih druzenj. Ja, clovek je bil bolj spontan in druzaben. Pa vendar, obdobje kjer so se veliki slovanski in kitajski narodi resili komunizma. Obdobje, kjer je milijarda azijcev zacela ziveti udobno. Zlata leta amerike, in neskoncnih zasluzkov.
Jaz se imam zdaj boljse. Spomnim se otroskih let, pijancevanje starejsih, in njihovo nakladanje. Bogih trgovinic v garazah, obupno dragih slovenskih monopolistov tipa telekoma. Klicati teto v belgijo je bla znanstvena fantastika. In samo 2 kanala na televiziji. Pocasen internet. Iti na hrvasko morje vrhunec zivljenja.
Zdaj se pa sedem na letalo, in grem v london na kavo. Jem v pakistanski restavraciji. Berem na internetu kaj hocem. Dobim delo, kjer hocem. Dosegljiv po celem svetu, zastonj. Videl nesteto drzav, spoznal razlicne kulture, se naucil tuje jezike. Pa vendar lahko pridem domov na obisk kdaj hocem. Tehnologija in internet, sta tu. Jst bi umrl od dolgcasa 30 let nazaj. Za ene je breme, za druge vir svobode.
Že, že, ampak po drugi strani imaš čedalje več nekih popotnikov, ki si čez ramo zadegajo 5-litrsko bisago in se odpravijo na pot okoli sveta, kjer denar priložnostno služijo z obiranjem malin za dolar na uro … pa to niso nujno delomrzneži ali hipuzli, ki se nikoli niso znašli v 21. stoletju, ampak so med njimi tudi blazno uspešni ljudje, ki se jih je v neki točki vse skupaj uprlo … in če ti po pravici povem, se čedalje bolj upira tudi meni. Težko ti recimo z besedami opišem gnus, ki me preveva ob samemu sebi, ko se ne morem odločiti ali mi je bolj všeč ena kuhinjska armatura za 186 evrov ali tista druga za 217 evrov. Prvič zato, ker bi bila čisto OK tudi tista za 90 evrov, drugič pa zato, ker je popolnoma vseeno kakšno pipo imaš. Potem ti nekdo reče: “Ampak stari, ti boš potem 10 let gledal to pipo.” Ja, in kaj potem, če jo bom gledal 10 let? A je važno?
Sam za pipo je pa res vseeno.
Seveda je. Saj je tudi vseeno ali je sijaj ali mat in ali so ploščice bolj ali manj sive ali morda rjave.
Rešitev za odmik od potrošništva: http://www.emka.si/minimalizem-ziveti-s-smislom/PR/1796598
Saj si jo prebral, če se ne motim. Ampak le opozorilo: žensko boš težko prepričal o takem življenjskem slogu.
@filmoljub: odvisno s katerega pogleda. Zgodovinsko gledano je danes na svetu najmanj mrtvih v konfliktih npr, pa ceprav svetovna populacija raste. S tega pogleda so super casi.
@Filmoljub: Ja, sem prebral. To je morda malo pretirano fundamentalističen pogled na zadevo, je pa seveda jasno, da ni treba nikomur imeti pametnega telefona, tablice, leptopa in še treh pametnih televizorjev, da nihče ne potrebuje ploščic, ki stanejo 52 evrov/m2, in da mu ni treba v London samo zato, da bo lahko spil kavo. Sva pa z žensko že zadnjič ugotovila, da si jaz želim čedalje manj … ona pa obratno 🙂