[English below]
Ik dacht na over de vraag waarom die nieuwe chatbots zo intrigerend zijn. Zou het iets te maken kunnen hebben met de redenen waarom musea mij blijven fascineren? Ze raken immers beide aan de kern van ons menselijk zijn. In museumcollecties proberen we de hele wereld te verzamelen en te bestuderen. In tentoonstellingen vertellen we verhalen over wetenschap, geloof, hoop en schoonheid. “Musea, dat is filosofie met plaatjes”, zo vatte Tiziana Nespoli het eens krachtig samen. Filosofie met plaatjes… We filosoferen omdat we proberen de werkelijkheid te bevatten. Maar is dat niet precies wat technici doen die kunstmatige intelligentie creëren? Om intelligente software te kunnen bouwen moet je minstens begrip hebben van de systemen en structuren waarmee mensen kennis en betekenis vastleggen. Volgens sommigen heeft ChatGPT inmiddels succesvol de beroemde Turing-test doorstaan. Het programma schrijft beleidsnota’s, computercodes, essays en zelfs poëzie. Soms gaat de computer hallucineren, maar wie doet dat nou niet?
En toch, zo wordt gezegd, zijn die chatbots niet echt creatief. Ze missen wat. Bewustzijn misschien? Intuïtie? Een gevoel van wat het betekent om mens te zijn? ‘Humanness’ noemt Steve Wozniak, mede-oprichter van het grootste tech-bedrijf van de wereld dat. Ze missen de menselijke ervaring. Tot nu kunnen ze alleen maar herhalen wat wij mensen ooit hebben bedacht en dat in een nieuw verband presenteren. Kennis doen ze op via bestanden op computers, ze missen de zintuigelijke indrukken en daarom is hun perceptie van de wereld veel beperkter dan die van ons mensen. Computers kunnen heel goed berekeningen maken en daardoor tot antwoorden komen die intelligent lijken. Maar uiteindelijk blijft het vrij ‘domme’ intelligentie, zo lees ik op allerlei blogs. Ze missen ook de menselijke ambivalentie. Dat klinkt best geruststellend. Niettemin schrijft de website Dezeen over architecten die zich zorgen beginnen te maken over hun beroep omdat AI in korte tijd heel veel ontwerpen uit kan spugen. En wat te denken van die conferentie met duizenden deelnemers over ‘Responsible Artificial Intelligence in the Military Domain’, die deze week op minder dan een kilometer afstand wordt gehouden van waar ik dit schrijf? In een oorlog kunnen autonoom opererende wapensystemen onze ‘menselijke ervaring’ efficient kapotschieten.
Kunstmatige intelligentie zou de vonk van de inspiratie missen. Maar wat is dat voor vonk? Is dat het moment van intuïtieve, inspiratie die de romantici ons rond 1800 gaven, als een reactie op de verlichting? Pure, poëtische creativiteit als antwoord op de eeuw van de rede? Een al te menselijke reactie op de onttovering van de wereld door de systematische, empirische wetenschap? De romantici gaven ons het gevoel en de intuïtie terug, het genie dat werkelijk creatief was en de mensheid met een bovennatuurlijke kracht verder stuwde. Als in een game naar het volgende level. Goethe, Beethoven, Nietzsche, Van Gogh en Einstein, dat soort werk – de helden van een voorbije tijd.
Dat zullen machines nooit bereiken, omdat ze slechts berekeningen uitvoeren en nooit de rijkdom van de menselijke conditie zullen ervaren – zo wordt gedacht. Ze zullen nooit de ruis van onze zintuigelijke ervaringen mee kunnen nemen in het creatieve proces. En dat doet me denken aan muziekliefhebbers die een licht krakende langspeelplaat verkiezen boven de heldere weergave van een digitaal mp3’tje. Of de korrel van een traditioneel fotonegatief boven het raster van een digitale foto. Chatbots hebben geen bewustzijn wordt gezegd. Ze kunnen niet op zichzelf reflecteren. Ook dat klinkt geruststellend. Tegelijkertijd hebben we geen idee wat bewustzijn nu eigenlijk is, behalve dan dat wij menen erover te beschikken. Is het ons bewustzijn dat ons tot morele wezens maakt?
Zonder kompas of duidelijke koers varen we met volle kracht nieuwe wateren binnen. Avontuurlijk zal het zijn! Voorwaar, ik zie een schone taak, juist voor musea!
AO, 16 februari 2023
Images screenshots from ‘The Rhythm Painter’, 2017 by Jaap Drupsteen.
Chatbots and the noise of the world
I was wondering why these new chatbots are so intriguing. Could it have something to do with the reasons why museums continue to fascinate me? After all, they both touch on the core of our humanness. With museum collections, we try to collect and study the whole world. In exhibitions, we tell stories about science, faith, hope and beauty. “Museums, that’s philosophy with pictures” Tiziana Nespoli once powerfully summarised. Philosophy with pictures… We philosophise because we try to grasp reality. But isn’t that exactly what engineers who create artificial intelligence do? To build intelligent software, you need at least an understanding of the systems and structures by which humans capture knowledge and meaning. According to some, ChatGPT has now successfully passed the famous Turing test. The programme writes policy papers, computer coding, essays and even poetry. Sometimes the computer hallucinates, but then again, who doesn’t?
And yet, it is said, that chatbots are not really creative. They are missing something. Sentience perhaps? Intuition? A sense of what it means to be human? ‘Humanness‘ is what Steve Wozniak, co-founder of the world’s biggest tech company calls it. They are lacking the human experience. So far, they can only repeat what we humans once came up with and present it in a new context. They acquire knowledge from files on computers, they lack sensory experiences and therefore their perception of the world is much more limited than our human perception. Computers are very good at calculating and thereby arriving at answers that appear intelligent. But in the end, it remains pretty ‘dumb’ intelligence, I read on all kinds of blogs. They also lack human ambivalence. This sounds quite reassuring. Nevertheless, the website Dezeen writes about architects starting to worry about their profession because AI can spit out a lot of designs in a short time. And what about that conference with thousands of participants on ‘Responsible Artificial Intelligence in the Military Domain‘, being held this week less than a kilometre from where I am writing this? In war, autonomous weapon systems can efficiently destroy our ‘human experience’.
Artificial intelligence is said to lack the spark of inspiration. But what is that spark? Is it the moment of intuitive, inspiration that the Romantic writers gave us around 1800, as a response to the Enlightenment? Pure, poetic creativity as a response to the age of reason? An all-too-human response to the disenchantment of the world by systematic, empirical science? The romantics gave us our instincts and intuition back, the genius that was truly creative and propelled humanity forward with a supernatural power. As in a game to the next level. Goethe, Beethoven, Nietzsche, Van Gogh and Einstein, that kind of work – the heroes of a bygone age.
Machines will never achieve that because they only perform calculations and will never experience the richness of the human condition – or so it is assumed. They will never be able to bring the noise of our sensory experiences into the creative process. And that reminds me of music aficionados who prefer a slightly creaky long-playing record to the clarity of a digital mp3. Or the grain in a traditional photographic negative over the grid of a digital photograph. Chatbots have no consciousness it is said. They cannot reflect on themselves. That too sounds reassuring. But we have no idea what consciousness actually is, except that we believe we possess it. Is it our consciousness that makes us moral beings?
Without a compass or clear course, we are sailing full speed ahead into new waters. Adventurous it will be! Truly, I see a noble task for museums!
AO, 16 February 2023