Op zoek naar de klepel

bij dezen en genen

Derde en laatste deel van een verkenning van Biofysica

Een overzicht van de laatste groep van zes hoofdstukken uit het boek ‘Physics in Mind; a quantum view of the brain’ van Werner R. Loewenstein (2013)

Werner R. Loewenstein

Werner R. Loewenstein

Het kan al meteen verklapt worden: behalve in de zintuigen als visie is er in het brein zelf geen direct bewijs van kwantummechanica aangetroffen. Loewenstein licht dit uiteraard uitgebreid toe en laat zien hoe het brein wel gebruikt maakt van parallelle computatie. Dit zou een indirecte bewijs zijn van kwantum computing en betekent volgens hem dat het brein er dus wel gebruik van maakt. Het probleem lijkt te zijn dat de metingen door ruis overstemd worden.

Hij schildert in dit deel van het boek de anatomie van het brein af. Daarbij geeft hij veel belang aan de weergave van de ons omringende werkelijkheid. Hij benadrukt nog eens dat wat ons brein uit de ons omringende wereld haalt wellicht niet een totaal en compleet beeld is van de werkelijkheid, maar dat dit beeld er op gericht is en optimaal is om ons te doen overleven in ‘the struggle for life’.

Hij behandelt nog eens het zicht en hoe zich daarin stereovisie ontwikkelde. In het algemeen geldt voor de zintuigen dat wat rechts waargenomen of gevoeld wordt verwerkt wordt in de linkerhelft van ons brein. Dit is bekend, maar minder bekend is dat het een evolutionair overblijfsel is van de tijd waarin de zintuigen slechts dienden om obstakels te vermijden en te ontwijken, die werden aangestuurd door spieren in de tegenoverliggende lichaamshelft. (Wellicht zoiets als roeien met de rechter peddels wanneer je naar links wilt varen). Vervolgens wordt aangekaart hoe als gevolg van een veelzijdige en overvloedige input, de informatie in parallel verwerkt wordt. Zo worden er veel computaties tegelijk uitgevoerd, een totaal andere wijze dan die waarmee onze computers werken, waarin informatie in sequentie verwerkt wordt. Parallelle computatie is snel en is voordelig voor wat betreft de kosten aan informatie. Het is waarschijnlijk dat evolutie hiervoor koos precies vanwege de snelheid en zuinigheid en het is daarom te verwachten dat het al vroeg zijn intrede deed zoals bij wormen die slechts zo’n honderd neuronen bezitten. Sequentiële computatie zou veel te langzaam zijn en zou een wereld van luiaards opleveren. De snelheid is bijzonder hoog in het zintuig zicht en kan zeker niet van sequentiële computatie afhangen.

Het is belangrijk te beseffen dat het brein geen ‘plaatje’ heeft van de zichtbare wereld vergelijkbaar met fotografie. Er is absoluut geen sprake van een compositie van pixels. Er worden contrasten aangescherpt, bewegingen geaccentueerd. Bovendien bestaan er cellen in de visuele cortex die bijzonder gevoelig zijn voor de oriëntatie van de dingen in de buitenwereld. Daarin wordt onderscheid gemaakt tussen wat verticaal, horizontaal en dwars geplaatst is. Ook lijkt het of er slechts één cel is (neuron) die in staat is een bepaalde ‘gestalt’ of gelaat te herkennen (zie “Grandmother Cell”). In werkelijkheid gaat het om meerdere samenwerkende cellen. Een groepje van 25 neuronen was in staat te reageren op één gezicht van de 3.000 die getoond werden. Deze codering is een gevolg van het leren herkennen van gezichten ofwel ‘imprinting’. In de stroming van informatie naar deze cellen wordt betekenisloze informatie onderweg verloren, terwijl betekenisvolle informatie wordt bewaard. Maar wat is betekenisvol of wat bedoelt men met betekenis? Betekenis wordt gegenereerd door de neuronen. Filosofen zijn eeuwenlang bezig geweest de vraag over wat ‘betekenis’ is te beantwoorden. Richard Feynman (met een knipoog naar de vraag of filosofie nuttig is) merkte op dat wetenschapsfilosofie net zo nuttig is voor wetenschappers als ornithologie voor vogels.

Over het bewustzijn weten we niets. Ook Loewenstein kan er niets over zeggen. Er bestaat niet eens een duidelijke definitie van. Het is meer een gevoel van besef van het bestaan van een wereld buiten ons en binnenin ons, een gevoel met een eindeloze hoeveelheid nuances. Het is een gevoel van herinnering aan dingen – een geliefd gezicht, de aanraking van een verdwenen hand, het geluid van een stem die er niet is. Het is een besef van de tijd die verstrijkt, van geluk en verdriet, van verwondering en verlangen – het hele ik. Het bewustzijn is het hoogtepunt van informatieverwerking en computing. Het zou niet in je opkomen een computer te vragen of hij gelukkig is of spijt heeft bijvoorbeeld. Er blijft een diep gat tussen digitale informatieverwerking en bewustzijn.

Voor wat betreft het bewustzijn en kwantuminformatie zijn er verschillende theorieën. Is de decoherentie ofwel het instorten van kwantumgolven verweven met de observatie door een bewust wezen? Of wordt decoherentie veroorzaakt door andere binnenvallende deeltjes (fotonen van de zon of afkomstig uit diepere gebieden van de ruimte, of moleculen in de lucht of in het water? Decoherentie was een belangrijk onderwerp in de filosofie en wel de kennistheorie. Loewenstein vertelt dat decoherentie spontaan plaatsvindt, er is geen menselijke waarnemer voor nodig. Decoherentie heeft dan ook niets met bewustzijn te maken. De hypothese over kwantummechanica in de microtubulen van het brein komt ook te vervallen. Deze eiwitstructuren gaan niet verder dan het membraan, er is dus geen intercellulaire continuïteit. Ook theorieën betreffende de gap-junctions zijn onhoudbaar, ze zitten vol water en ionen die direct decoherentie zouden induceren.

De conclusie is dat aangetoonde kwantummechanische fenomenen niet verder gaan dan de fotosynthese en het zintuig zicht. De keus van evolutie werd bepaald door hetgeen beschikbaar was in de Aardse ruimte. Dat waren twee energievelden – een veld van elektronkwanta en een veld van fotonkwanta – en daar waar de velden overlapten was informatie gratis beschikbaar. Evolutie kon deze aanbieding niet weerstaan. Het neuronale netwerk van ons brein kan met twee computatie manieren werken: een kwantummanier waarin kwantumgolven het substraat vormen en de macroscopische manier waarbij grote pakketten ionen het substraat vormen. De eerste manier dient voor parallelle computatie en de tweede voor de integratie van de lagere orde van polynomiale computatie. Daarbij is de kwantum manier economischer voor wat betreft de informatie en was waarschijnlijk eerder op het bioevolutionaire toneel, lang voordat de twee manieren gingen samenwerken.

Het gaat er vanaf nu dus om de kwantumgolven in de hersencentra aan te tonen en op een of andere manier het probleem van de ruis te overkomen. Er wordt momenteel veel onderzoek gedaan met moelculen die kwantumboolians kunnen genereren. Daar wordt zeker en snel vooruitgang in geboekt.

Loewenstein besluit met:

“So, all things considered, there are reasons to be optimistic, though I am reminded of what chairman Mao said in the 1960s when asked what he thought of the French Revolution: “It’s too soon to tell”.”

 

h/t to Gert Korthof die onder mijn blog over Kwantumbiologie wees op dit boek.

 

31 Reacties op “Derde en laatste deel van een verkenning van Biofysica

  1. harry pinxteren juli 30, 2014 om 21:39

    marleen
    volgens de meeste (en bevestigde!) bronnen was het niet Mao maar Tsjoe en Lai die dat zei. Maar laten we svp dit niveau van discussie- en nog lagere niveaus- hier mijden.😉

    Intussen vraag ik me wel af hoe we dan wel het beste Loewenstein kunnen bespreken. Ik ben dus nu in hoofdstuk 9, lees af en toe ademloos, dan weer wezenloos, en denk vaak, Tjakka, tot ik me afvraag of ik het wel snap!

    Bijvoorbeeld die berekeningen over de kans op ‘error-free transmission van 0,91, waar je het eerder over had, en dan vooral in verband met zijn cijferwerk op 113 over die ‘stretch van 1,200 DNA base units’ en … “the arithmetic is easily wrked out’……..

    Kun jij dat een beetje rijmen met andere schattingen van mutaties (Larry Moran bijv) en heb jij wel eens eerder zo’n berekening gezien waaruit blijkt dat ‘every possible DNA base-unit substitution wil have been tried out in about a million years’- zelfs in een populatie van 10.000 individuen. Gefundenes fressen voor Stoltzfus cs! Tenminste, als ik het goed begrijp,

    Voor mij blijft die opmerking eind pg 28 over cognition als information gain, het interessants. Ben ook benieuwd of hij dat in de rest van zijn boek waarmaakt. Uit jouw samenvatting kan ik dat niet opmaken. Eerder het tegendeel. Ben wel pas soortgelijke verhalen tegengekomen: interessante associatie werd daarbij gelegd: met ons immuunsysteem…. Moet ik ook nog lezen..

    Verder, wat opvalt is dat Loewenstein niet echt veel actuele bronnen vermeldt. In één geval lijkt me dat een omissie, zeker als we het hebben over physics in the mind: intrinsieke fotosensitieve retinal ganglion cellen, ipRGC. Die hebben direct effect op de cortex en op cognitie. o.a.

    Enfin, genoeg stof wil ik maar zeggen. Hoe houden we het een beetje overzichtelijk? Wat denk jij?

  2. Marleen juli 30, 2014 om 23:44

    Harry,

    Zo te zien zit Loewenstein er vaak naast als het om citaten gaat. Neemt niet weg dat ook deze erg grappig is, vooral in het kader van zijn optimisme over de rol van kwantummechanica in het brein.

    Ik weet ook niet zeker of ik het allemaal snap. Het zijn wel boeiende concepten. Bijvoorbeeld de cognitive demon suggereert dat deze demon informatie verwerkt en dat doet hij dus ook. Die op p. 29 is van een type. Deze staat model voor de demons die later in de tekst behandeld worden, zoals de sensory demon en de channel demon. Ook de G-protein demon, waar hij relatief weinig aandacht aan besteed is van fundamenteel belang. Natuurlijk komen vooral de channel demons in het vervolg veel ter sprake in verband met de digital computation in het brein. Maar hij beschrijft deze demons in het begin van het boek eigenlijk alleen maar om er verder zo heel af en toe naar te kunnen verwijzen.

    De eerste van de twee berekeningen is makkelijk na te rekenen. E = 1/10.0000; n = 1000 (aminozuren) en als je dat in de formule stopt die hij geeft krijg je 0.904, of afgerond 0.91. Of dat hoog of laag is kan ik niet beoordelen. Hij zegt dat het hoger is dan verwacht op basis van statistische mechanica.

    Over de mutation rates en rythms: die getallen kan ik niet verifiëren, maar neem ze voor waar aan.

    Ik zie overigens wel een waslijst aan referenties staan aan het eind van het boek. Of die up to date zijn kan ik echt niet beoordelen. Het is voor mij ook helemaal nieuw. De enige manier om er overzicht in te houden is deze samenvatting in drie blogs.

    Het interessantst vind ik eigenlijk zijn kijk op zaken als wat de werkelijkheid nu eigenlijk is en wat bewustzijn nu wel of niet is en waar je het kunt vinden. De wat minder technische kanten zeg maar, ofwel de ‘filosofische’ kant.
    Hij heeft overigens het volste vertrouwen in het model van evolutie door natuurlijke selectie en is door en door Darwinist.😉

  3. harry pinxteren juli 31, 2014 om 10:43

    ja, dat laatste vind ik ook interessant, uiteraard, als zielkundige, en ik hoop maar dat zijn opmerking dat zijn hypothese maar is wat het is, prolegomena in ‘this mystery of mysteries..!

    Als buitenstaander lees ik ter compensatie over wat ik al allemaal over dat mysterie der mysteries heb gelezen, dingen die minstens zo mysterieus zijn, maar waar je wel onderzoek naar kunt doen.
    Relevant in het verband met Leoewensteins berekeningen, en misschien voor een aanpalende blog:

    Scientists at the Max Planck Institute for Developmental Biology in Tübingen have now discovered that proteins can be constructed of similar amino acid chains even when their three-dimensional shapes differ significantly. This suggests that the proteins that exist today arose from common precursors. Presumably, in the course of evolution they were built up from smaller fragments according to a modular principle.

    José Arcadio Farías-Rico, Steffen Schmidt, Birte Höcker. “Evolutionary relationship of two ancient protein superfolds.” Nature Chemical Biology, 14 July 2014, DOI: 10.1038/NCHEMBIO.1579

    “Hij heeft overigens het volste vertrouwen in het model van evolutie door natuurlijke selectie en is door en door Darwinist”. Dat modulaire principe van die Max Planckers kan hij niet met dat ‘model’ niet bedoelen.

    We hebben het er nog over. !

  4. Marleen augustus 1, 2014 om 00:40

    Harry, dankjewel voor de link.

    In zekere zin is het een kleine teleurstelling dat er geen kwantumfenomenen in het brein aangetoond zijn, de subtitel van het boek deed anders vermoeden “A Quantum View of the Brain.” Maar we zijn wel helemaal updated nu en dat is een prettig idee.

  5. Kees Jaspers augustus 1, 2014 om 17:21

    Beste Marleen,

    Hartelijk voor je bijzonder duidelijke samenvatting van “Physics in mind” door Loewestein. Ik heb ervan genoten. Het is, zoals je zegt, wel even wennen aan het eigenzinnig taalgebruik. Waar hij van ‘demons’ spreekt bedoelt hij macromoleculen, met ‘cognitie’ bedoelt hij dat er zich meerdere mogelijkheden voordoen. Dat laatste heeft dus niks van doen met (bewuste) kennis of met het maken van een (bewuste) keuze. Het is een passief (organisch) proces. (Ik denk daarom dat Martin ten onrechte afhaakte op “cognitieve proteïne modules”.) “Digital demons” is het meest afschrikwekkend, maar er wordt keurig uitgelegd wat ermee bedoeld wordt. Met ‘informatie’ van de zon bedoelt Loewestein gewoon de elektromagnetische straling van de zon. Eerder ben ik een vergelijkbaar eigenzinnig, en zo nu en dan zweverig taalgebruik enkel in filosofische boeken en artikelen tegengekomen.😉 Het was m.i. in dit boek van Loewestein ook helemaal niet nodig geweest. Het boek zou enkel aan duidelijkheid gewonnen hebben en minder lezers laten afschrikken. (Zie bijvoorbeeld http://www.timeshighereducation.co.uk/books/physics-in-mind-a-quantum-view-of-the-brain-by-werner-r-loewenstein/2003348.article.)

    In deel twee noem je “fine-tuning als de ultieme functie van de random kwantum generator”. Ik ben daar niet gelukkig mee. Fine-tuning is mij te antropomorf omdat het iets is dat door “iets” of iemand gewild is en dat lijkt me hier beslist niet het geval. Verder heb ik geen idee wat een random kwantumgenerator is. Zoeken ernaar leverde weinig zinvols op. (Ja, gratis energie van perpetuum mobile e.d.)

    Ook in deel twee noem je forecognition. “Deze kwaliteit is van groot belang in ‘the struggle for life’ en laat het toe een speer te lanceren naar een prooi, de aankomende seizoenen te herkennen aan de sterren of te zien dat er slecht weer op komst is.” De zogenaamde Theory of Mind, ToM, sluit hier mooi op aan. Deze theorie is ook bedoeld om iets te kunnen inschatten, maar dan m.b.t. wat voor gedrag anderen zullen tonen, hoe ze zullen reageren. Eveneens een belangrijk instinct ten einde te overleven.

    Daarop volgend in deel twee: “Loewenstein brengt na een uitgebreide beschrijving van de Universal Turing Machine, de conclusie naar voren dat ons brein geen exacte weergave van de realiteit geeft.” Op grond waarvan kan hij dat weten? Wat zou er ontbreken, mankeren, als je niet alles kunt weten? Zou het niet eerder zo zijn dat we met alle beschikbare zintuigen en meetinstrumenten die we tot onze beschikking het beeld van de werkelijkheid juist heel dicht benaderen?

    Deel 3. Mijn belangrijkste kritiek in deel drie spitst zich toe op de vergelijking die Loewestein maakt tussen een kwantumcomputer en het brein. Zoals vrijwel alle vergelijkingen, die van de wiskunde natuurlijk uitgezonderd, gaat m.i. ook deze mank. Ten eerste hebben we, ondanks dat we er al heel wat van weten, niet echt een idee hoe het brein werkt. Hoe kun je dan toch een vergelijking maken met een brein waar je onvoldoende kennis over hebt? Wat vergelijk je dan precies? Ten tweede zijn er slechts enkele premature kwantumcomputers die bovendien op bijna nul Kelvin werken om nog een beetje betrouwbaarheid te verkrijgen. Loewestein loopt met zijn idee van kwantumcomputers wel erg ver voor de muziek uit om nu al vergelijkingen met het brein te maken. (Dat bovendien op 300 K werkt.) Ik vind het een ongelukkige vergelijking van twee grotendeels onbekenden en tevens een overbodige vergelijking. Het was m.i. beter geweest de neuronnetwerken zo goed mogelijk op zichzelf staand te beschrijvingen.

    Deel 3. Ten aanzien van bewustzijn schrijf je terecht: “ Over het bewustzijn weten we niets. Ook Loewenstein kan er niets over zeggen. Er bestaat niet eens een duidelijke definitie van.”
    Desondanks zijn er aardige ideeën ontwikkeld over terugkoppelingen en informatielijnen als een vorm van bewustzijn door met name Daniel Wegner, Ab Dijksterhuis en Desmurget c,s, Als je er prijs op stelt kan ik je daarover wat toesturen. Het is iets dat ik enkele jaren terug heb uitgezocht.

    Waar jij in deel 3, in je reactie van augustus 1, 2014 om 00:40, een kleine teleurstelling voelde omdat je door de subtitel, “A Quantum View of the Brain”, anders vermoedde, zou ik juist teleurgesteld geweest zijn als het kwantum wel een rol in het brein had gespeeld. Wat mij betreft zou daarmee de geloofwaardigheid van het boek zijn aangetast. Nu is dat in het geheel niet het geval.
    Het oog (deel 1) vormt daarop natuurlijk een uitzondering. Ik vond die materie des te interessanter omdat ik in het recente verleden met de 3D modellen heb gespeeld die het brein ‘uitrekent’ n.a.v. de via het oog binnenkomende kleuren. Als je dat model ziet is het ongelooflijk knap dat het brein tot zoiets in staat is gebleken. Een artikel wat je in dat verband zal interesseren is: http://fqxi.org/community/articles/display/178: Quantum Biology: Making Waves in the Natural World.

    Loewestein schijnt ook ingegaan te zijn op de Tweede Wet van de Thermodynamica, op entropie. Dat deed hij ook al uitgebreid in zijn eerdere boek uit 1999: “The Touchstone of Life”. Misschien ken je het artikel al, maar voor de zekerheid wil ik je in dat verband (over het ontstaan van het leven) graag wijzen op de volgende link: http://www.simonsfoundation.org/quanta/20140122-a-new-physics-theory-of-life/
    Het betreft een model wat ik gemist heb in je blog Lag de oorsprong van leven bij virussen? en het vervolg daarop over de definitie van leven bij Gert.
    Mvg, Kees

    • Marleen augustus 1, 2014 om 19:00

      Hartelijk dank Kees, ik lees met interesse je kritiek, maar kan er pas zondag dieper op ingaan, omdat ik geen computer tot mijn beschikking heb hier dus bijvoorbeeld het volgen van je linkjes wordt lastig. Maar ik kom er zeker op terug.

  6. piterfries augustus 1, 2014 om 19:12

    ” Over het bewustzijn weten we niets. Ook Loewenstein kan er niets over zeggen. Er bestaat niet eens een duidelijke definitie van. ”

    Het gezever over het bewustzijn lijkt me net zulke nonsens als het gezever over de vrije wil.
    Wie, als ik, er van uit gaat dat er ‘alleen’ maar materie is, die snapt dat er niet nog ergens een ruitertje die materie zit te mennen.
    Het vrije wil probleem is een non probleem, slechts veroorzaakt door de ziel, die nog nooit door iemand is gezien.

    Bewustzijn is net zoiets.
    Bewustzijn is volgens mij niets bijzonders, elk zoogdier heeft het.
    Hoe het bij eenvoudigere wezens is weet ik niet.
    Bewustzijn is niets anders dan de hersenprocessen in het, evolutionair gezien, jongste deel van onze hersenen.
    Het evolutionaire voordeel van dat bewustzijn is contemplatie, afwegen van alternatieve handelingen, vooral gezien het effect in de toekomst.
    Dat bewustzijn maakte het mogelijk voor de slimmere mensen de ijstijden te overleven.
    De prijs van dat bewustzijn is voorzien dat we uiteindelijk dood gaan.

  7. Martin augustus 2, 2014 om 19:39

    “Het bewustzijn is het hoogtepunt van informatieverwerking en computing. Het zou niet in je opkomen een computer te vragen of hij gelukkig is of spijt heeft bijvoorbeeld. Er blijft een diep gat tussen digitale informatieverwerking en bewustzijn.”

    Ik mag misschien op deze biologische blog toch aandacht vragen voor het feit dat de mens niet de enige biologische soort is op Aarde? Waarom dan meteen zo onnadenkend de mens met een computer vergelijken? Hoe zit het met de vergelijking tussen de mens en b.v. een chimp, of krokodil, of merel, of regenworm, of wesp, etc? Wat is het minimale bewustzijn dat in levende wezens bekend is? En wat geldt voor b.v. de mens met gereduceerd bewustzijn, b.v. tgv. Altzheimer? Is “spijt kunnen hebben” wel een vereiste voor het hebben van bewustzijn? Wat is het verschil tussen een wesp en een computer? Dat zijn pas vragen.

  8. Marleen augustus 3, 2014 om 01:45

    Kees,

    Nogmaals dank voor je bijdrage. Ik zal er chronologisch op ingaan.

    Ik denk eerlijk gezegd dat Loewenstein goede redenen had om van ‘demons’ en ‘informatie’ te spreken.
    De ‘demons’ zijn eiwitten. Maar het is een specifieke groep eiwitten met een specifieke functie waar in de biologie geen woord voor bestaat. Het zijn alle eiwitten die verantwoordelijk zijn voor de zintuigelijke waarneming, voor het doorgeven van de door deze ‘sensory demons’ gegenereerde signaal naar het zenuwstelsel met de ionenkanalen ofwel de ‘digital demons’. Demons zijn al deze eiwitten waarbij sensory en digital demons subgroepen zijn. Het is een nieuwe term die in zijn verhaal uitstekend van pas komt. Ik hoop dat hij door vele anderen zal worden gebruikt.

    Met informatie bedoelt hij iets zeer algemeens. In de door ons waarneembare wereld behandelt hij elektromagnetische straling, maar het is goed mogelijk dat er andere bronnen van ‘informatie’ zijn die wij niet kunnen waarnemen. Overigens kun je wellicht geuren en geluiden ook onder informatie scharen, aangezien we daar ook ‘sensory demons’ voor bezitten, al weet ik niet of hij dat zelf zo zou toelaten.

    Ik ben het daarom niet eens met de review door Tristan Bekinschtein, die je hier linkt. Met het antropomorfisme van evolutie bijvoorbeeld valt het wel mee. Hij heeft het over ‘Lady Evolution’ en noemt haar zo wanneer steeds opnieuw het argument naar voren komt, waarom bepaalde processen door evolutie geadopteerd werden, namelijk omdat ze economisch (goedkoop waren in het gebruik van informatie) en efficiënt (snel) waren. Dat heeft niets te maken met antropomorfisme.

    De “fine-tuning” die je aanhaalt betreft niet de klassieke fine-tuning van het universum maar betreft in het boek van Loewenstein de fine-tuning van het leven, d.w.z. het uitermate aangepast zijn aan de condities van de omgeving zoals die op Aarde te vinden is. Hij bedoelt dus absoluut niet de fine-tuning in de klassieke zin, namelijk die van het universum waarbij natuurkundige waarden precies zo uitgebalanceerd lijken dat het ontstaan van dat universum en het bestaan ervan een wonder lijken te zijn. Velen trekken het begrip fine-tuning dan ook nog eens door naar het feit dat het hier in het universum zo geschikt zou zijn voor leven. Dat is natuurlijk onzin als je ziet hoe de Aarde wel erg klein en verscholen ligt tussen al die sterrenstelsels en sterren.

    Een ‘random kwantumgenerator’ is waarschijnlijk slecht vertaald. In het boek wordt het een ‘Quantum random generator’ genoemd. Hij bedoelt daarmee de fotonen die de nucleotiden in het DNA beschadigen en op deze wijze random mutaties veroorzaken. (We hadden het daar al over bij Gert in verband met onze discussie over ‘toeval’).

    Het beeld dat we van de werkelijkheid hebben is in zekere zin beperkt en tegelijkertijd ook rijker. Zo zouden we geen exacte foto van de dingen die we bekijken bezitten, maar er de belangrijkste informatie uithalen. Het blijft toch altijd verrassend wat we op een foto zien vergeleken met wat we in onze herinnering gezien hebben toen we naar dat plaatje keken. Veel objecten die in de achtergrond voorkomen zien we gewoon niet en zien vaak allerlei details in de foto terug die ons eerder ontgaan waren. Maar we zagen in het echt wel meer facetten van een persoon; het oog, of het brein licht bepaalde details eruit. Misschien moet je dit vergelijken met de portretten van Picasso. Ik weet het niet. Maar er zijn fenomenen zoals ‘gewenning’ die bepaalde signalen dempen of zelfs doven als ze regelmatig of langdurig zijn en terwijl deze signalen deel uitmaken van de werkelijkheid, registreren wij ze niet. Ons brein is dus eigenlijk erg selectief in wat het uit de werkelijkheid opneemt. Maar het is waar dat onze meetinstrumenten dat niet zijn, we hebben in dat geval wel computers nodig om ‘verborgen’ signalen te registreren en om te zetten naar een voor ons begrijpelijke output.

    De vergelijking van het brein met kwantumcomputing maakt hij uitsluitend door zich te baseren op het feit dat het brein zo snel te werk gaat (tussen stimilus van het oog en excitatie van de cortex) dat het wel parallel zou moeten computen en dus van kwantumprocessen gebruik zou moeten maken. Maar niemand heeft ooit aan kunnen tonen dat het er van kwantumcomputing sprake is in het brein omdat er teveel ruis is. Hij heeft de neuronnetwerken uitgebreid beschreven, maar ik heb me geconcentreerd op wat hij zei over kwantumcomputing.

    Ik zou het inderdaad op prijs stellen als je me de verhandelingen over het bewustzijn zou willen toesturen. Alvast hartelijk dank.

    Dank voor je link naar het artikel over de zintuigen. Nu heeft Loewenstein een heel hoofdstuk gewijd aan de reukzin. Interessant is dat hij aangeeft dat daar absoluut geen sprake is van kwantumprocessen in tegenstelling tot wat gemeld wordt in jouw link. Hij schrijft het ‘overlappen’ van de verschillende geurmoleculen toe aan ‘synonymity’. De interactie van de demon met de geurmoleculen is niet altijd even specifiek. Hij spreekt absoluut niet van tunneling zoals de schrijvers in het door jou gelinkte artikel doen. Interessant is het zeker, al is de waarschuwing voor deze fascinatie voor kwantumprocessen in de biologie ook wel op zijn plaats.

    Dank ook voor je laatste link. Ik had het artikel inderdaad al gelezen, maar vond de stelling erg vaag, te weinig technische details. Het oorspronkelijke artikel van Jeremy England is daarentegen weer te technisch. Dus weet ik niet of ik daar nog wat uit kan halen.

  9. Marleen augustus 3, 2014 om 01:46

    Piterfries,

    Hartelijk dank voor je inzichten.

  10. Marleen augustus 3, 2014 om 02:20

    Martin,

    Dat ben ik wel met je eens. Er is geen definitie van bewustzijn. Er zitten waarschijnlijk onnoemelijk veel facetten aan het bewustzijn. ‘Spijt kunnen hebben’ is daar misschien één van, geen idee. Het heeft daarom niet veel zin om daarover te speculeren in verband met computers of wespen. Het wordt natuurlijk wel interessant dat, zodra je met een computer verbaal kunt communiceren, je ooit ook wat kunt leren over een eventuele staat van zelfbewustzijn. Iets dat met (de meeste) dieren onmogelijk is.

    Het is wellicht wel van belang te onderstrepen dat volgens Loewenstein het biologische brein (of dat nu van een wesp of van een mens is) gebruik maakt van parallelle computing. Dat gaat ontiegelijk veel sneller dan sequentiële computing. Hij beweert dat hedendaagse computer sequentieel te werk gaan. Ik neem aan dat dat klopt. Het is daarom onwaarschijnlijk dat een computer ooit zo’n indrukwekkende hoeveelheid aan informatie in de brede zin, zoals geluid, geur, evenwicht, temperatuurverschillen en licht tegelijkertijd kan integreren. Het idee is dan dat een kwantumcomputer dit wél zou kunnen.

  11. Kees Jaspers augustus 3, 2014 om 14:02

    Marleen,
    Mijn dank voor je heldere toelichtingen. Het hielp me om Loewestein beter te begrijpen.

  12. harry pinxteren augustus 4, 2014 om 16:35

    Marleen,

    “In zekere zin is het een kleine teleurstelling dat er geen kwantumfenomenen in het brein aangetoond zijn, de subtitel van het boek deed anders vermoeden “A Quantum View of the Brain.” Zeg je.

    Klopt wel, maar wat Loewenstein vooral bedoelt, dat zegt ie volgens mij duidelijk in H17, p 235. Die klassieke blik is te nauw, dus moeten we met de ‘lens of quantum physics’ de quantum view dus, gaan kijken.

    En om te beginnen moeten we dus voorbij de wereld van Boltzmann kijken, dat geldt vooral voor al die biologen bij die verouderde kijk nog zo populair is dat fysici er grappen over maken (237)! Het wordt daarom pas echt spannend in de laatste hoofstukken. En dan valt het inderdaad een beetje tegen. Wat mensen als Penrose en Hameroff zeggen, ziet hij niet zitten (al dat water in en buiten die neuronen, daar hou je die coherentie niet lang genoeg mee vast, of zoals een grapje in het wereldje van qm en bewustzijnondersoekers luidt: Penrose, die is zelf decoherent).

    Maar een punt heeft Loewenstein wel:
    ook al werken die microtublues van Penrose en Hameroff niet, het hele idee van quantumcomputation in onze hersens, is helemaal niet onzinnig. Per slot betaat er al qm in de uitposten van onze hersens, namelijk in onze ogen. En mooi dat die quantumcomputing daar minstens 3 keer zo snel gaat als in planten! Dat belooft wat! En dat heeft Lady Evolution toch maar mooi voor ons geregeld! Wat zou ze nog meer voor ons in petto hebben?

    Ik heb wel een idee, jij ook?;-)

  13. Marleen augustus 4, 2014 om 19:01

    Harry,
    Je zegt dat de biologen nu maar eens met een ‘quantum view’ naar de biologische wereld moeten kijken. Daar wordt het inderdaad tijd voor. Mijn punt was alleen dat de kwantummechanica in het brein niet te meten is, al zal dat wellicht ooit mogelijk zijn. Eerlijk gezegd weet ik ondanks het hele boek goed gelezen te hebben nu niet wat ik me bij quantum computing in het brein moet voorstellen. Dat er moleculen bestaan (gesynthetiseerd zijn) die met de verschillende spins op hun atomen allerlei boolians kunnen creëren staat erg ver af van het eventuele ‘natuurlijk’ voorkomen van dit fenomeen in het brein. Zou het signaal van het ene molecuul dat van een ander niet annuleren bijvoorbeeld. Ik heb geen idee. Loewenstein ziet het feit dat er parallelle computing (extreem snelle en efficiënte transmissie van signalen) plaatsvindt als bewijs voor het plaatshebben van kwantum computing in de hersens. Ik kan niet beoordelen of die conclusie juist is. Kunnen onze computers niet ook parallel computen? Ze hebben toch verschillende microprocessoren die tegelijk draaien? Je ziet ik blijf nog met een aantal vragen zitten en omdat jij het boek ook gelezen hebt weet je daar misschien antwoord op.

    (Voor de meelezers) Loewenstein schrijft: (over filosofie gesproken) “It’s an old joke among physicists that they invented the deterministic-reductionist philosophy and taught it to the biologists, only to walk away from it themselves.” Daarna zegt hij dat de grote moleculen die in biologie en fysiologie een rol spelen inderdaad grotendeels met de klassieke fysica bestudeerd kunnen worden.

    Verder ben ik erg opgelucht dat het verhaal over de microtubulen opgelost is. Dat vond ik zo’n eigenaardig idee. Zo zie je maar dat serieuze wetenschappers soms rare dingen verzinnen.

    Ik heb geen idee wat Lady Evolution nog voor ons in petto heeft, en ben benieuwd wat voor idee je daar over hebt. Dat de computer een soort extensie zal worden van ons brein/soma zou heel goed kunnen, maar heb geen idee hoe evolutie zoiets aan zal pakken.

  14. harry pinxteren augustus 4, 2014 om 20:59

    marleen

    ik heb ook nog een aantal vragen, daarom vind ik het best een goed boek!

    om met jouw makkelijkste vraag te beginnen:

    De huidige parallelle computers, met meer processoren- ze zitten nu in de buurt van de zoveel duizend, pin me er niet op vast want ik ben er al tijden uit, het gaat ook niet om het exacte aantal, maar het om het idee, en dat is dat de huidige parallelle computers speciaal geprogrammeerd moeten worden om al die processoren samen te laten werken. En je kunt je voorstellen dat dat knap wat overhead kost. En dus zijn beperkingen heeft. Maar belangrijker is dat een quantumcomputer massaal parrallel is door dat rare superpositie fenomeen. Het is nog simpeler uit te leggen dan Loewenstein het doet, al moet ik een voorbehoud maken, want ik las laatst dat deze uitleg ook niet helemaal klopt. (nou ja wie écht weet , om met JR te spreken wat superpositie ‘is’ mag het zeggen!) Maar het geeft toch een goed idee van het verschil:
    een klassieke computer werkt sequentieel, dus je hebt als je even van twee bits uitgaat, een 0 en een 1, in totaal vier mogelijke toestanden: na elkaar (kijk even op dat plaatje van die AND poort!) je hebt 00, 01, 10, en 11. Bij een kwantum computer heb je die toestanden niet na elkaar, maar náást mekaar, tegelijk, parallel. Dat is het essentiële verschil tussen bits en qubits. Deutsch die als eerste de wiskunde hier voor leverde, merkte een keer op dat niemand van dit voorbeeldje onder de indruk zal zijn. Maar reken maar eens uit wat een een qubit van 2^64 aan parallelliteit betekent. of eentje van 2^128…. Die heeft meer toestanden dan er deeltjes in dit universum zijn wat Deutsch indertijd verleidde tot de retorische vraag: vertel me dan maar waar die berekening dan wel wordt uitgevoerd! (voor hem is de QC nog steeds het argument voor de multiverse)

    Intgeressant is dat in ons oog ook quantumberekeningen voorkomen, net als in fotosynthese en dat dat dus een optimaal proces is (wat Gert eerst niet wilde geloven, of ik moet zeggen: niet kón geloven omdat het tegen zijn dogma inging)

    Je hebt een minimale coherentie (duur van de superpositie) nodig. In het oog is die 200 femtoseconden (leuk om te weten!) . Het belang daarvan is dat we dus bij ‘kamertemperatuur’ gewoon quantumverschijnselen hebben. Hiermee vervalt een belangrijke kritiek (van M. Tegmark) op het idee Penrose, namelijk dat het in onze hersens sowieso te warm zou zijn. Vraag is nu, volgens Loewenstein, of het er ook niet te nat is! – al die interacties van al die watermoleculen in en buiten die neuronen. Het lijkt me te onderzoeken. Misschien dat iemand hier een idee heeft😉

    “Zo zie je maar dat serieuze wetenschappers soms rare dingen verzinnen.” Prima toch, als ze maar te toetsen zijn. En zo gek was het idee niet volgens mij- het kwam trouwens van Hameroff, een anesthesist.

    “Lady evolutie” heeft voor ons nog de quantum computer in petto. Zo wordt VR echt, (écht ‘echt’! inclusief de vr van quantumprocessen- ik wil maar zeggen, dan gaan er rare dingen gebeuren. En niet te vergeten, fotosynthese (biofuels, venter heeft er weer een paar honderd miljoen voor gekregen) en natuurlijk nieuw DNA- als het aan G. Church en zijn cornuiten ligt. We kunnen nog wat verachten. Dus Loewensteins opmerking op p 272

    : “those astronomical quantities of information are by no means unique to Homo sapiens. Its just hubris to think they are. We tend to make too much of a few hundred Thousand generations, which is all that separates us from the nearest ape, though we know well that we share most of its DNA’

    wordt nu al weerlegd. En dit heeft ook niks met hubris te maken, maar alles met dat (kleine) verschil in DNA dat er al bestond. Maar ja, als je geen verschillen wíl zien, hou je natuurlijk alleen maar overeenkomsten over. Dan maak je je ook niet druk over verschillen die kunnen ontstaan in paar honderd duizend jaar! Wel over verschillen van een paar miljoen jaar? Verschilt dan het DNA wel genoeg? Noem je dat dan geen hubris!?😉

    Er valt veel aan te merken op Loewensteins gegoochel met het begrip informatie.

    Trouwens zijn idee van Maxwell demons, ofwel cognitieve moleculen, zou je al bij Delbrueck en bij jouw held Monod vinden. Klopt dat?

    • Rob van der Vlugt augustus 6, 2014 om 09:39

      Harry, even voor de compleetheid: Behalve echt, écht, ‘echt’ en *echt* is er natuurlijk ook nog zoiets als ECHT !

  15. Marleen augustus 4, 2014 om 21:21

    Harry,

    Dankjewel voor de toelichting/uitleg over bits en qubits. Nu begrijp ik het wel.
    Wat Lady Evolution ons reserveert naar jouw idee is wel man-made, maar dat maakt zeker ook deel uit van evolutie.

    Monod had het inderdaad over cognitie bij eiwitten die specifiek een substraat herkennen uit een overvloed aan andere moleculen in zijn ‘toeval en onvermijdelijkheid.’

    Het zou interessant zijn het volgende artikel te lezen over:
    Life, chemistry and cognition: Conceiving life as knowledge embodied in sentient chemical systems might provide new insights into the nature of cognition

  16. harry pinxteren augustus 5, 2014 om 10:14

    marleen ,dank

    ja, dacht het wel, dat wij deel uitmaken van de evolutie.
    bedankt, dat artikel lag al op de stapel!

  17. harry pinxteren augustus 6, 2014 om 15:53

    marleen
    jammer dat er niet meer reacties komen
    ben nu bezig met een ander artikel van Kovac [Communicative & Integrative Biology 1:1, 114-122; July/August/September 2008]; ©2008 Landes Bioscience
    Opinion Article
    Bioenergetics
    A key to brain and mind

    Ik heb nog wel wat punten over Loewenstein.
    zijn cognitieve moleculen
    zijn verhaal over kleurenzien
    die berekening op p 113

    kost wel even tijd
    misschien kan ik op een van de bovenstaande reacties ingaan, want daar staat een hoop wat ik niet begrijp

    deze blog van je verdient meer
    meer dan die laatste van gert.
    Het is ongelooflijk wat die man me allemaal in de schoenen probeert te schuiven- iemand die even langskomt zal wel denken, wat een idioot! Gelukkig zijn het Gerts woorden niet de mijne. Duidelijk, tenminste voor wie de moeite doet even te lezen wat ik schrijf.

    Heb je tijd het Bioenergetics verhaal te lezen?

  18. harry pinxteren augustus 7, 2014 om 09:25

    ok rob,
    inderdaad vergeten!
    ik zal het Jan Riemersma vertellen (zie die onzinnige discussie blog gert) van wie ik dit overnam, maar die nog andere typografische middelen gebruikte als * en * om zijn filosofische problemen op te lossen. Zo blijken we dus bijvoorbeeld niet alleen geluidshinder te hebben maar ook geluids*hinder* ,(dat eerste zou je volgens JR misschien wel kunnen meten, dat tweede dus niet- of alleen jan weet hoe dat moet). Mocht je geïnteresseerd zijn, dan mag je de pedante correcties van mijn domme opmerkingen door Jan niet missen!

    • Rob van der Vlugt augustus 7, 2014 om 17:35

      Ik heb de ‘onzinnige’ discussie met genoegen gevolgd Harry en verheug me al op het eventuele vervolg.
      Ik kon het niet helpen, met dank aan Bert Haanstra, Jane Goodall en Frans de Waal, dat ik alsmaar drie strijdbare alfamannetjes voor me zag met af en toe een sussend alfavrouwtje.
      In de boeken en films van bovengenoemden gingen de verliezers echter nooit op vakantie als ze doorkregen dat ze het niet gingen redden. Ze zagen gewoon in dat ze een maatje te klein waren en dropen beteuterd af.
      Het is duidelijk dat Lady Evolution niet alleen met verbeteringen op de proppen komt.

  19. Marleen augustus 7, 2014 om 12:34

    Harry, ik heb nu weer wat tijd en ga het Bioenergetics verhaal en het andere van Kovac dat ik zelf linkte lezen.

    Het is eigenlijk niet gepast om over elkaar te praten op andere blogs. Dus ik schrijf hier mijn ideeën over de reacties van jou en Gert niet op. Wat ik wel duidelijk wil stellen is dat Gert beweerde dat wij de filosofie wilden afschaffen en dat klopt helemaal niet. Het ging mij vooral over de claims van Jan Riemersma die Gert overnam in zijn blogbericht. Nu Jan en Gert hun computer dichtgedaan hebben kan deze discussie niet zoals het hoort afgerond worden, maar misschien komt dat in september wel weer. Eigenlijk was Mel Brooks een mooie afsluiting geweest😉

    Ik hoop van harte dat je terugkomt op de punten in Loewenstein die je interesseren, want niet alles is even duidelijk. De berekening op pagina 113 kom ik ook niet uit, maar dat is misschien ook niet na te rekenen en is slechts als gegeven bedoeld.

    Je twijfels over de cognitieve moleculen en het kleurenzien, hoor ik graag wat meer over.

  20. Martin augustus 7, 2014 om 17:27

    Over wetenschapsfilosofie: zie b.v. http://philsci-archive.pitt.edu/10762/1/NagelJFinalNov13.pdf

    Par 2.2 “Heuristic but successful theories”.

    “So the situation combines mathematical lacunae, even embarrassments, with supreme
    empirical success: an odd situation. In any case, for more than seventy years, the
    quantum field theory community has divided its labours between two kinds of work:
    (i) developing the heuristic formalisms of perturbation series etc. (of course often
    using rigorous mathematics to do so); and (ii) pursuing a mathematically rigorous
    definition of the central notion, the path integral, and allied notions. Of course, the
    distinction between (i) and (ii) is vague. There is really a spectrum of kinds of work,
    and plenty of synergy between the different kinds; although, physics being a practical and empirical subject, far more quantum field theorists do work at the first heuristic
    end of the spectrum than at the second rigorous end.
    In recent decades, philosophers of science who have approached quantum field
    theory have tended to emphasize the second kind of work: especially a framework
    called `algebraic quantum field theory’. That is understandable: their temperament
    and training of course emphasizes rigorous argument, and one would not want philo-
    sophical discussions to be turn on proposals from physics that are fallible and-or
    temporary, e.g. because they depend on some specfic model.”

    Dat bedoelde Feynman: de mensen van de praktijk proberen goed werkende heuristische methoden te ontwikkelen terwijl de wetenschapsfilosofen het over foundational issues hebben – waar je als praktisch wetenschapper dus niets aan hebt. B.v. de algebraic quantum field theory is heel rigoreus maar je kunt er niets mee uitrekenen. Dus Feynman had volledig gelijk met zijn opmerking.

  21. harry pinxteren augustus 7, 2014 om 17:39

    martin
    marleen,

    martin je hoeft ons niet te overtuigen. Wat mij betreft is de discussie genoeg geweest.

    Wat Feyman zegt, geldt ook voor andere takken van sport

    Philosophy of science is a very interesting field, but I don’t think it really contribute to science, it learns from science.It tries to understand what the sciences do, why do they achieve things, what are the wrong paths, see if we can codify that and come to understand. What I think is valuable is the history of science.

    http://www.theatlantic.com/technology/archive/2012/11/noam-chomsky-on-where-artificial-intelligence-went-wrong/261637/?single_page=true

    Dat is precies wat ik Gert Korthof afgelopen weken duidelijk heb proberen te maken met legio concrete voorbeelden. Niet gelukt, maar ik waag te betwijfelen of dat helemaal mijn fout is

  22. Marleen augustus 7, 2014 om 19:15

    Rob, ik zie het helemaal voor me. Maar het gaat misschien verder dan het zo op het eerste gezicht lijkt.
    Misschien zijn er oude vetes in het spel. Toch zou ik willen voorstellen deze ‘parentesi’ te sluiten en vooral niet weer olie op het vuur gooien, iets dat ik al eerder deed met die quote van Feynman. Dat viel in het verkeerde keelgat.

  23. Marleen augustus 7, 2014 om 19:22

    Harry, duidelijk. De filosofen gaan op de schouders staan van de wetenschappers. Zij eigenen zich de feiten en theorieën toe om er mooie verhalen van te maken.
    Zoals de ‘ganse werkelijkheid’ van Riemersma is wat de wetenschappers nog niet te weten zijn gekomen. Nogal gemakzuchtig.

  24. Marleen augustus 7, 2014 om 19:27

    martin,

    Uit dit citaat van filosofische aard kan ik niet veel wijs, maar je samenvatting daaronder is des te duidelijker.
    Het lijkt mij ook dat Feynman dit bedoelde. Bert Morrien, die ook bij Gert reageerde, heeft het op alle mogelijke wijzen geïnterpreteerd, maar wat je hier schrijft lijkt mij de juiste betekenis.

  25. Pingback:Moleculaire demonen, de cognitieve eiwitten | Op zoek naar de klepel

  26. harry pinxteren augustus 8, 2014 om 11:06

    marleen,

    je bent veel te aardig! Je noemt de kreet van Riemersma, ‘gemakzuchtig’. Ik heb er een andere kwalificatie voor – wetenschap dat is ook niet voor watjes!

    En, Rob, precies wat je zei :augustus 7, 2014 om 17:35 :
    het is één en al sexual display hier! Onze hersens zijn een ‘courting device’. (Greg Miller, nee Darwin, zei het al)

    Klopt, ook al: Lady Evolution komt niet alleen met verbeteringen op de proppen. Maar soms danken we daar toch maar mooi exotische soorten aan, zoals die van de universeel possibilisten bijvoorbeeld.

    En Marleen, wat ben je weer snel met je volgende blog. En ik heb niet veel tijd dit weekend!

  27. harry pinxteren augustus 8, 2014 om 11:26

    ps
    marleen, wat zeg je nú?!

    ‘Filosofen gaan op de schouders staan van de wetenschappers”.

    Dat zegt Chomsky niet: weten filosofen dan méér dan wetenschappers dat ze dat ueberhaupt kúnnen, op die schouders staan, of dénken ze soms beter dan die wetenschappers? Kortom. leg me maar uit hoe ze hun circusact flikken. Gert kon het niet

    ach, nee laat ook maar zitten, we hebben wel wat interessanters te doen
    en gert is nu toch op vakantie, die kan ik ook niet meer de kast opjagen😉

  28. Marleen augustus 8, 2014 om 13:00

    Harry, laat inderdaad maar zitten. Ik heb het artikel over Chomsky slechts diagonaal gelezen, want ik had meer interesse voor Monod.
    Jammer dat je niet veel tijd hebt, maar de blogs blijven staan dus doe rustig aan.

Praat mee en laat hier uw reactie achter

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s

Zwervende gedachten

Een filosoof over argumentatie, biologie, handelingstheorie en wat hem verder invalt

Jonas Bruyneel

Literatuur/Journalistiek/Muziek

mjusicamanti.wordpress.com/

per amanti della vera musica

SangueVivo

Ancora solo un battito in più

Microplastics

INTERREG MICRO PROJECT

Scientia Salon

Philosophy, Science, and all interesting things in between

Infinite forme bellissime e meravigliose

si sono evolute e continuano a evolversi

Vita da simbionte

perché collaborare è talvolta meglio che combattere

Meneer Opinie

Altijd een mening, maar niet altijd gehinderd door kennis van zaken

The Cambrian Mammal

An evo-devo geek's scientific meanderings

Evolutie blog

bij dezen en genen

The Finch and Pea

The Public House for Science...

voelsprieten

* wonder van het alledaagse *

the aphid room

All about aphids... not simply bugs|

kuifjesimon

Just another WordPress.com site

The Amazing Comics Men

Comics by Dutch cartoonists Jan the Stripman & Wim the Mysterious Helpman

Barbara Jansma

Prenten, spotprenten en schilderijen

%d bloggers op de volgende wijze: