L'uditorio pareva sconcertato, imbarazzato persino.
Per i ricercatori IA di Google nulla di tutto questo era minimamente terrificante.
Quando Deep Blue batté Kasparov, quando EMI iniziò a comporre mazurke nello stile di Chopin [...] molti di questi ingegneri frequentavano le superiori, probabilmente avevano letto e amato il libro "GEB" [che avrebbe spinto molti di loro a studiare l'IA].
Le ragioni per cui stavano lavorando per Google erano proprio perché volevano che l'IA diventasse realtà - e non fra un centinaio d'anni, ma adesso, il prima possibile. Non si capacitavano di cosa allarmasse così tanto Hofstadter [il leggendario filosofo e scienziato, proprio colui che aveva scritto "GEB"].
Chi lavora nel campo dell'IA s'imbatte ogni giorno nelle paure dei profani, influenzati verosimilmente dai molti film di fantascienza che raccontano di macchine superintelligenti che diventano malvagie. I ricercatori nel campo dell'IA hanno anche familiarità con la paura che un'IA via via più elaborata sostituisca gli esseri umani in alcune professioni, che l'IA applicata a enormi database possa minare la privacy e permettere subdole discriminazioni, che sistemi di IA mal congegnati, cui sia permesso prendere decisioni autonome, possano provocare disastri.
Il terrore di Hofstadter era la reazione a qualcosa di completamente diverso.
Era terrorizzato, invece, dal fatto che l'intelligenza, la creatività e le emozioni, e forse persino la coscienza, fossero troppo facili da produrre - che la cosa per lui più preziosa del genere umano finisse per diventare un nulla più di un "trucchetto", che un superficiale insieme di brutali algoritmi privi di ragione potesse spiegare lo spirito umano.
Come lui stesso mi spiegò alla fine del meeting, riferendosi a Chopin, a Bach e altri modelli supremi del genere umano, «Se tali menti così raffinate e complesse, così profonde emotivamente potessero essere banalizzate da un piccolo chip, crollerebbe la mia idea dell'essenza umana».
- Melanie Mitchell