Joseph Weizenbaum
Μέχρι
το τέλος της ζωής του μιλούσε και προειδοποιούσε για την δύναμη και την
εξουσία και την επικινδυνότητα που μπορεί να προσλάβει μια ανοησία. Και
τον συγκλόνιζε το γεγονός πως ένα ακροατήριο δεν αντιδρούσε, ακούγοντας
κάποιους να καταργούν τον άνθρωπο. Αυτό που τόνιζε είναι πως ο άνθρωπος
είναι απρόβλεπτος, και όχι υπολογίσιμος, όπως τον θεωρεί η υπολογιστική
και η ρομποτική επιστήμη.
Πέθανε το 2008 στο Βερολίνο.
"Ich bin doch nur ein Feigenblatt"
Είμαι απλά ένα φύλλο συκής
Berliner Zeitung (ΒΖ), 25.3.1995
Wolfgang Kirkamm
Ο γκουρού της πληροφορικής Joseph Weizenbaum (JW:), έχει την δυνατότητα, ευρισκόμενος “στα χωράφια του”, να ασκήσει παθιασμένη κριτική στην κοινωνία των υπολογιστών. Μαζί του μίλησε ο Wolfgang Kirkamm.
Ο Αμερικανός καθηγητής Joseph Weizenbaum (71), θεωρείται ως ένας από τους άνδρες εκείνους που στην δεκαετία του 50 και 60, προώθησαν αποφασιστικά την ανάπτυξη των υπολογιστών και την διερεύνηση της τεχνητής νοημοσύνης. Σήμερα προειδοποιεί ο πιο καταρτισμένος κριτικός από τις σειρές των επιστημόνων των ηλεκτρονικών υπολογιστών: “Μπορούμε να κάνουμε τα πάντα με την βοήθεια των υπολογιστών - αλλά με ποιο αντίτιμο?”
ΒΖ: Κύριε καθηγητά, τί θα συμβουλεύατε τους γονείς, που θέλουν να αγοράσουν υπολογιστή στο δεκάχρονο παιδί τους?
JW: Θα ρωτούσα, γιατί νομίζετε πως το παιδί σας χρειάζεται έναν υπολογιστή και όχι ένα ποδήλατο ή ένα μουσικό όργανο? Πολλοί λένε, ο κόσμος όπου μεγαλώνει και εργάζεται το παιδί μου είναι γεμάτος υπολογιστές. Για να μη μείνουν πίσω, τα παιδιά πρέπει να γνωρίζουν κάτι γι' αυτούς. Αυτό όμως δεν ισχύει. Ο σημερινός μας κόσμος δεν θα μπορούσε να υπάρχει χωρίς τους ηλεκτρικούς κινητήρες. Είναι παντού. Αλλά κανένας δεν λέει πως για τον λόγο αυτό πρέπει κανείς να γνωρίζει κάτι γι' αυτούς. Έτσι είναι και με τους υπολογιστές.
ΒΖ: Γιατί προτιμάτε ένα μουσικό όργανο παρά έναν υπολογιστή?
JW: Αυτό έχει να κάνει με προτεραιότητες. Παιδιά που από πολύ νωρίς κάθονται στον υπολογιστή παραμελούν πράγματα που είναι πιο πολύτιμα για την ηλικία αυτή-την γερμανική γλώσσα, το γράψιμο, την κριτική ανάγνωση, την ενασχόληση με την ιστορία. Όποιος ξέρει τα πάντα για τους υπολογιστές, αλλά όχι πολλά για άλλα πράγματα, βρίσκεται στην θέση ενός διερμηνέα που μεταφράζει πολύ ωραία, αλλά δεν έχει να πει κάτι δικό του.
ΒΖ: Κάποιοι ειδικοί στα παιδαγωγικά βλέπουν τον υπολογιστή ως ένα ευφυή σύντροφο με τον οποίο μπορεί κανείς να παίξει. Άλλοι θεωρούν πως όποιος κάθεται πολλές ώρες μπρος στην οθόνη, θα γίνει ένας αβοήθητος, ανίκανος να επικοινωνία σπιτόγατος. Είναι πραγματικός αυτός ο κίνδυνος?
JW: Φυσικά και βλέπω ένα τέτοιο κίνδυνο. Αλλά αν είναι έτσι, δεν πρέπει να ρίξουμε το φταίξιμο στον υπολογιστή. Είναι υπόθεση των γονέων αν αφήνουν την ευθύνη των παιδιών στο σχολείο ή στην τηλεόραση ή στον υπολογιστή. Εδώ και 30 χρόνια είμαι δάσκαλος σε ένα ελίτ πανεπιστήμιο στο Cambridge (Μασαχουσέτη). Μόνο τα δίδακτρα στοιχίζουν 25000 δολάρια τον χρόνο. Αλλά όλο και πιο πολλοί φοιτητές μου λένε πως για χρόνια δεν έφαγαν μαζί με τους γονείς τους, ή δεν είχαν μια σοβαρή συζήτηση.
ΒΖ: Αθωώνετε τους υπολογιστές?
JW: Ο υπολογιστής είναι σαν την πιπίλα, που χρησιμεύει για να καθησυχάσει το παιδί. Πρέπει για τον λόγο αυτό να απαγορευθεί η λειτουργία των εργοστασίων παραγωγής ελαστικών? Μπορείτε να το τυπώσετε, κανείς δε θα το πιστέψει, αλλά είναι αληθές: το ένα τρίτο των Αμερικανών 16-30 ετών, είναι πρακτικά αναλφάβητοι. Μπορούν να διαβάσουν πινακίδες στους δρόμους και κόμικς. Αλλά δεν μπορούν να γράψουν ούτε μια παράγραφο στην γλώσσα τους, που να μην είναι σχεδόν ακατανόητη. Τα τρία παιδιά μου πήγαν σε ένα κανονικό δημόσιο σχολείο. Στο σπίτι είχα πάντα ένα υπολογιστή, και παρόλα αυτά δεν τους μόλυνε. Κατέχουν την αγγλική γλώσσα. Γιατί είχαμε βιβλία, γιατί κάθε βράδυ καθόμασταν μαζί.
ΒΖ: Παιδαγωγοί συνιστούν παιχνίδια στον υπολογιστή. Υποτίθεται πως βοηθούν την φαντασία, την αντίσταση στο στρες, αυξάνουν την ταχύτητα των αντιδράσεων και την υπολογιστική σκέψη.
JW: Είμαι παθιασμένα εναντίον. Τί μεταδίδουν στην πραγματικότητα τα περισσότερα παιχνίδια? Αν κοιτάξει κανείς καλά, η απάντηση είναι: τον χωρισμό μεταξύ αυτού που κάνει ένας άνθρωπος, και της ευθύνης γι' αυτό. Τα περισσότερα παιχνίδια είναι γεμάτα με βία. Εκεί καταστρέφονται πόλεις ή αεροπλάνα, εκτοξεύονται πύραυλοι κατά διαστημοπλοίων-και όλα πρέπει να γίνουν πολύ γρήγορα. Στην πραγματικότητα πεθαίνουν άνθρωποι αν γίνουν τέτοια πράγματα. Αλλά το παιδί εκπαιδεύεται να μην τα σκέφτεται αυτά.
ΒΖ: Βλέπετε κάποιο σκοπό από πίσω?
JW: Δεν ξέρω. Αλλά πρέπει να διηγηθώ κάτι επ' αυτού. Συνέβη εδώ και κάποια χρόνια. Ο Reagan ήταν ακόμη πρόεδρος. Είχε πάει σε ένα πάρκο Disneyland. Του έδειξαν παιδιά που πυροβολούσαν αεροπλάνα στον υπολογιστή. Και τότε αυθόρμητα είπε: “Αυτοί είναι οι πιλότοι του αύριο.” Και είχε απόλυτο δίκαιο. Ρωτάτε αν είναι σκοπιμότητα. Τουλάχιστο το περιστατικό με τον Reagan είναι πραγματικό.
ΒΖ: Αυτά είναι εξαιρέσεις, λένε οι κριτικοί σας.
JW: Δεν είναι. Πάρτε για παράδειγμα “αθώα” παιχνίδια όπου τρώγονται ζώα ή πολεμούν ρομπότ. Όλα αναίμακτα. Αλλά είναι όμως βία και καταστροφή, η νίκη κατά εκείνου τον οποίο θέλει κανείς να εξαφανίσει.
ΒΖ: Καταπιάνεστε εδώ και 40 χρόνια με υπολογιστές. Επέφερε η τεχνολογία αυτή την πρόοδο την οποία ελπίζατε?
JW: Δεν μπορώ να πω έτσι απλά τι έλπιζα. Δεν ξέραμε πόσο τρομακτικά γρήγορη θα ήταν η πρόοδος. Μέχρι το 1957, νόμιζαν σημαντικοί άνθρωποι, που πράγματι κάτι καταλάβαιναν από υπολογιστές, πως έρχεται σύντομα ο καιρός, που θα έχουμε στην Αμερική 7 με 8 μεγάλους υπολογιστές. Και αυτό θα ήταν και η υπολογιστική ανάγκη των ΗΠΑ θα καλυπτόταν. Ένας υπολογιστής σε κάθε μεγάλη πόλη. Δεν μπορούσαμε να φανταστούμε πως έρχεται καιρός όπου σχεδόν κάθε φοιτητής έχει για εκείνη την εποχή αφάνταστα γρήγορο υπολογιστή.
ΒΖ: Τι έδωσε την ώθηση για ένα τέτοιο ρυθμό ανάπτυξης?
JW: Η ώθηση προήλθε ξεκάθαρα από τον στρατό. Ο υπολογιστής επινοήθηκε πριν 60 χρόνια, και αναπτύχθηκε στην Αμερική, Αγγλία και Γερμανία, ανεξάρτητα (χωρίς συνεργασία μεταξύ τους). Ήταν από την αρχή ένα όργανο πολέμου. Λίγο καιρό μετά από μια αφάνταστα έντονη αποστρατικοποίηση, με τον πόλεμο της Κορέας ξεκίνησε η μοντέρνα στρατικοποίηση της αμερικάνικης κοινωνίας, η οποία δεν έχει ακόμα σταματήσει. Ο στρατός απαίτησε τα τεράστια computer να γίνουν πολύ μικρότερα. Δεν έπρεπε απλά να χωράνε σε ένα αεροπλάνο αλλά και σε ένα πύραυλο. Για τον σκοπό αυτό ήταν διαθέσιμα άπειρο ποσό χρημάτων και άπειρο ανθρώπινο ταλέντο. Νομίζω πως, αν ο αμερικάνικος στρατός θεωρούσε απαραίτητη την ανάπτυξη ηλιακών κυψελών, και την υποστήριζε, όπως τότε υποστήριξε την ανάπτυξη του τρανζίστορ (βασικό εξάρτημα ενός ηλεκτρονικού επεξεργαστή), θα είχαμε σήμερα αξιοποιημένη ηλιακή ενέργεια, και δε θα χρειαζόμασταν τα πυρηνικά εργοστάσια. Οι υπολογιστές για την βιομηχανία ήρθαν ως "παραπροϊόντα".
ΒZ: Ο άνθρωπος κατασκευάζει τον εαυτό του σαν υπολογιστή, αλλά ενσωματώνει και τα σφάλματα του, ενώπιον των οποίων είναι αβοήθητος (όταν δηλαδή ο υπολογιστής κάνει κάτι αντ' αυτού)
JW: Αυτή την κατάσταση όπου ο άνθρωπος είναι αβοήθητος, δεν μπορούμε να μην την δούμε. Οι πτώσεις των Airbus είναι ένα παράδειγμα. Ή σκεφτείτε την κατάρρευση των χρηματιστηρίων το 1987, μόνο και μόνο γιατί οι υπολογιστές "τρελάθηκαν". Κατά το τρομερό ατύχημα στο Bhopal της Ινδίας (διέρρευσαν τοξικά), ένα σφάλμα του λογισμικού παρεμπόδισε την έγκαιρη ενημέρωση του πληθυσμού. Κατασκευάζουμε όλο και περισσότερα συστήματα με τρομερή πολυπλοκότητα, τα οποία δεν μπορούμε πια να ελέγξουμε.
ΒZ: Ο ίδιος είπατε κάποτε, πως ως νεαρός πιστεύατε πως όλα τα ερωτήματα αυτού του κόσμου μπορούν να υπολογισθούν μαθηματικά.
JW: Ήμουν 16 όταν είδα για πρώτη φορά την συμβολική λογική. Ναι, τότε σκέφτηκα, με αυτό όλα είναι δυνατά. Αλλά αυτό δεν θα το έλεγα πίστη. Είναι όπως με τη γλώσσα: όλα μπορούν να ειπωθούν, αλλά είναι πολύ μακριά να πούμε πως όλα ειπώθηκαν.
ΒZ: Μεταξύ άλλων έχετε αναπτύξει το υπολογιστικό σύστημα της Bank of America. Υπάρχουν και άλλες δουλειές για τις οποίες είστε περήφανος;
JW: Αχ. ήμουν αρκετά καλός δάσκαλος. Και αν καταλαβαίνω κάτι μπορώ να το μεταδώσω με κατανοητό τρόπο. Στις ΗΠΑ είναι διαφορετικά απ' ότι εδώ στην Γερμανία. Αν εδώ γράψει ένας ακαδημαϊκός ένα βιβλίο που είναι κατανοητό από τον γενικό πληθυσμό, γρήγορα θα κατηγορηθεί ως μη επιστημονικό.
ΒZ: Γιατί δεν αναφέρετε το πρόγραμμα ELIZA, που εσείς αναπτύξατε; Που θεωρείται από τους θεμέλιους λίθους στην ιστορία της τεχνητής νοημοσύνης;
JW: Το ότι έγινε θεμέλιος λίθος οφείλεται στο πόσο τρομερά παρανοήθηκε η εργασία και στην κατάχρηση που έγινε και γίνεται ακόμη. Αυτό έγινε το 1966, και ήταν τεχνικά απλό. Ανέπτυξα μηχανισμούς για την ανάλυση και χειρισμό φυσικών γλωσσών, λέξεων και προτάσεων δηλ, μέσα στον υπολογιστή. Ήθελα να δοκιμάσω αυτούς τους μηχανισμούς, και με μια σειρά έξυπνων τρικ-το παραδέχομαι ευχαρίστως- προσομοίωσα την συνομιλία ψυχίατρου-ασθενούς. Αυτό ήταν πολύ αστείο για μένα και άλλους. Αλλά έγινε σοβαρό όταν ψυχίατροι είπαν: αυτή είναι η αρχή της αυτόματης ψυχιατρικής. Αυτό δεν σήμαινε τίποτε άλλο παρά το ότι πίστεψαν πως οι μηχανές μπορούν να αντιμετωπίσουν θεραπευτικά ένα άνθρωπο. Τότε σκέφτηκα, τί τρέχει εδώ; Και σήμερα, μπορεί κανείς να αγοράσει στην Αμερική προγράμματα που κάνουν ακριβώς αυτό.
ΒZ: Άλλοι επιστήμονες, όπως ο Αμερικανός Hans Morawec πάνε πολύ πιο μακριά. Λέει πως είμαστε πολύ κοντά στον καιρό, που κάθε σημαντική σωματική ή πνευματική λειτουργία του ανθρώπου θα έχει το τεχνητό της αντίστοιχο. Βλέπει ένα μεταβιολογικό κόσμο, που θα κυριαρχείται από μηχανές που σκέφτονται και βελτιώνονται από μόνες τους. Ίσως σε 50 χρόνια.
JW: Ναι και εμείς οι άνθρωποι θα είμαστε τυχεροί αν οι απόγονοί μας κρατήσουν για σκυλάκια του καναπέ. Έτσι συνεχίζεται αυτή η ανοησία. Ο άνθρωπος έχει την δύναμη της αναπαράστασης και την φαντασία. Αλλά αυτό δεν σημαίνει ότι μπορεί να γίνει πραγματικότητα - ή ότι πρέπει να γίνει!
ΒZ: Εννοείτε δηλ. πως οι προβλέψεις για την εμφάνιση τέτοιων δημιουργημάτων της τεχνητής νοημοσύνης απλά δεν είναι ρεαλιστική;
JW: Εννοώ πως είναι ανώμαλο να σκέφτεται κανείς πως μπορεί να κατασκευάσει τεχνητά ότι είναι ανθρώπινο. Οι ελπίδες και προβλέψεις των μεγαλύτερων αυθεντιών, που έγιναν πριν 30 χρόνια, του τομέα της τεχνητής νοημοσύνης, δεν έχουν πραγματοποιηθεί.
ΒZ: Τότε γιατί ανησυχείτε;
JW: Γιατί οι ιδέες έχουν δύναμη, και οι λανθασμένες ιδέες επίσης έχουν μεγάλη δύναμη. Η ιδέα, πως εμείς οι άνθρωποι δεν είμαστε τίποτε άλλο παρά ένας σωρός από πληροφορίες, μια πολύ εκλεπτυσμένη μηχανή, που μπορεί να αντικατασταθεί από άλλες, αυτή η ιδέα -αν και λανθασμένη- έχει πολλή δύναμη.
ΒZ: Σας κατηγορούν οι συνάδελφοι σας ως κάποιον που λέρωσε την φωλιά του;
JW: Όχι αυτό δεν έγινε ποτέ, τουλάχιστο δεν το έχω αντιληφθεί. Πριν κάποιο καιρό, ρώτησαν τον πρόεδρο του ΜΙΤ, σε μια συνέντευξη στο γαλλικό περιοδικό Magazin Express, εάν σκέφτεται τις πολιτικές συνέπειες και τους κινδύνους που προκύπτουν από την εργασία του ινστιτούτου. Ο πρόεδρος απάντησε: "για την δουλειά αυτή έχουμε τον καθηγητή Weizenbaum". Και συμφωνώ, είμαι απλά ένα φύλλο συκής (σαν παραπέτασμα, για να κρυφτεί κάτι). Αλλά πρέπει να πω τότε ότι θα σταματήσω αυτό που κάνω;
ΒZ: Ας ρίξουμε μια ματιά στο μέλλον. Θα κάνουμε σε λίγο περιπάτους στην virtual reality του cyberspace σε μακρινούς πλανήτες, ή από το δωμάτιο μας νυχτερινούς περιπάτους στο Παρίσι;
JW: Πολλές υποσχέσεις γίνονται, αλλά όλα αυτά είναι τόσο εκτός πραγματικότητος και τόσο ακριβά, που ούτε σε 15 χρόνια δεν θα είναι ούτε στο περίπου τέλεια. Αλλά είμαι σχεδόν έτοιμος να πω, πως στα επόμενα 20 χρόνια, ο υπολογιστής θα εξαφανιστεί στο υποσυνείδητο, όπως και ο ηλεκτρικός κινητήρας. Είναι παντού, αλλά δεν μιλάμε πολύ περί αυτού. Και κάτι ακόμη. Θα έρθει καιρός που ο επιστήμονας των υπολογιστών θα πέσει στην ίδια δυσμένεια όπως και ο πυρηνικός επιστήμονας. Φοβάμαι πως η ανθρώπινη επικοινωνία θα μειωθεί τόσο, λόγω της επέκτασης των υπολογιστών ώστε να είναι για λύπηση το γεγονός. Δεν είναι μεγαλύτερη η χαρά να μιλάς με ένα άνθρωπο, παρά με ένα υπολογιστή;
Mετάφραση: Πέτρος
Αμέθυστος
Πέθανε το 2008 στο Βερολίνο.
"Ich bin doch nur ein Feigenblatt"
Είμαι απλά ένα φύλλο συκής
Berliner Zeitung (ΒΖ), 25.3.1995
Wolfgang Kirkamm
Ο γκουρού της πληροφορικής Joseph Weizenbaum (JW:), έχει την δυνατότητα, ευρισκόμενος “στα χωράφια του”, να ασκήσει παθιασμένη κριτική στην κοινωνία των υπολογιστών. Μαζί του μίλησε ο Wolfgang Kirkamm.
Ο Αμερικανός καθηγητής Joseph Weizenbaum (71), θεωρείται ως ένας από τους άνδρες εκείνους που στην δεκαετία του 50 και 60, προώθησαν αποφασιστικά την ανάπτυξη των υπολογιστών και την διερεύνηση της τεχνητής νοημοσύνης. Σήμερα προειδοποιεί ο πιο καταρτισμένος κριτικός από τις σειρές των επιστημόνων των ηλεκτρονικών υπολογιστών: “Μπορούμε να κάνουμε τα πάντα με την βοήθεια των υπολογιστών - αλλά με ποιο αντίτιμο?”
ΒΖ: Κύριε καθηγητά, τί θα συμβουλεύατε τους γονείς, που θέλουν να αγοράσουν υπολογιστή στο δεκάχρονο παιδί τους?
JW: Θα ρωτούσα, γιατί νομίζετε πως το παιδί σας χρειάζεται έναν υπολογιστή και όχι ένα ποδήλατο ή ένα μουσικό όργανο? Πολλοί λένε, ο κόσμος όπου μεγαλώνει και εργάζεται το παιδί μου είναι γεμάτος υπολογιστές. Για να μη μείνουν πίσω, τα παιδιά πρέπει να γνωρίζουν κάτι γι' αυτούς. Αυτό όμως δεν ισχύει. Ο σημερινός μας κόσμος δεν θα μπορούσε να υπάρχει χωρίς τους ηλεκτρικούς κινητήρες. Είναι παντού. Αλλά κανένας δεν λέει πως για τον λόγο αυτό πρέπει κανείς να γνωρίζει κάτι γι' αυτούς. Έτσι είναι και με τους υπολογιστές.
ΒΖ: Γιατί προτιμάτε ένα μουσικό όργανο παρά έναν υπολογιστή?
JW: Αυτό έχει να κάνει με προτεραιότητες. Παιδιά που από πολύ νωρίς κάθονται στον υπολογιστή παραμελούν πράγματα που είναι πιο πολύτιμα για την ηλικία αυτή-την γερμανική γλώσσα, το γράψιμο, την κριτική ανάγνωση, την ενασχόληση με την ιστορία. Όποιος ξέρει τα πάντα για τους υπολογιστές, αλλά όχι πολλά για άλλα πράγματα, βρίσκεται στην θέση ενός διερμηνέα που μεταφράζει πολύ ωραία, αλλά δεν έχει να πει κάτι δικό του.
ΒΖ: Κάποιοι ειδικοί στα παιδαγωγικά βλέπουν τον υπολογιστή ως ένα ευφυή σύντροφο με τον οποίο μπορεί κανείς να παίξει. Άλλοι θεωρούν πως όποιος κάθεται πολλές ώρες μπρος στην οθόνη, θα γίνει ένας αβοήθητος, ανίκανος να επικοινωνία σπιτόγατος. Είναι πραγματικός αυτός ο κίνδυνος?
JW: Φυσικά και βλέπω ένα τέτοιο κίνδυνο. Αλλά αν είναι έτσι, δεν πρέπει να ρίξουμε το φταίξιμο στον υπολογιστή. Είναι υπόθεση των γονέων αν αφήνουν την ευθύνη των παιδιών στο σχολείο ή στην τηλεόραση ή στον υπολογιστή. Εδώ και 30 χρόνια είμαι δάσκαλος σε ένα ελίτ πανεπιστήμιο στο Cambridge (Μασαχουσέτη). Μόνο τα δίδακτρα στοιχίζουν 25000 δολάρια τον χρόνο. Αλλά όλο και πιο πολλοί φοιτητές μου λένε πως για χρόνια δεν έφαγαν μαζί με τους γονείς τους, ή δεν είχαν μια σοβαρή συζήτηση.
ΒΖ: Αθωώνετε τους υπολογιστές?
JW: Ο υπολογιστής είναι σαν την πιπίλα, που χρησιμεύει για να καθησυχάσει το παιδί. Πρέπει για τον λόγο αυτό να απαγορευθεί η λειτουργία των εργοστασίων παραγωγής ελαστικών? Μπορείτε να το τυπώσετε, κανείς δε θα το πιστέψει, αλλά είναι αληθές: το ένα τρίτο των Αμερικανών 16-30 ετών, είναι πρακτικά αναλφάβητοι. Μπορούν να διαβάσουν πινακίδες στους δρόμους και κόμικς. Αλλά δεν μπορούν να γράψουν ούτε μια παράγραφο στην γλώσσα τους, που να μην είναι σχεδόν ακατανόητη. Τα τρία παιδιά μου πήγαν σε ένα κανονικό δημόσιο σχολείο. Στο σπίτι είχα πάντα ένα υπολογιστή, και παρόλα αυτά δεν τους μόλυνε. Κατέχουν την αγγλική γλώσσα. Γιατί είχαμε βιβλία, γιατί κάθε βράδυ καθόμασταν μαζί.
ΒΖ: Παιδαγωγοί συνιστούν παιχνίδια στον υπολογιστή. Υποτίθεται πως βοηθούν την φαντασία, την αντίσταση στο στρες, αυξάνουν την ταχύτητα των αντιδράσεων και την υπολογιστική σκέψη.
JW: Είμαι παθιασμένα εναντίον. Τί μεταδίδουν στην πραγματικότητα τα περισσότερα παιχνίδια? Αν κοιτάξει κανείς καλά, η απάντηση είναι: τον χωρισμό μεταξύ αυτού που κάνει ένας άνθρωπος, και της ευθύνης γι' αυτό. Τα περισσότερα παιχνίδια είναι γεμάτα με βία. Εκεί καταστρέφονται πόλεις ή αεροπλάνα, εκτοξεύονται πύραυλοι κατά διαστημοπλοίων-και όλα πρέπει να γίνουν πολύ γρήγορα. Στην πραγματικότητα πεθαίνουν άνθρωποι αν γίνουν τέτοια πράγματα. Αλλά το παιδί εκπαιδεύεται να μην τα σκέφτεται αυτά.
ΒΖ: Βλέπετε κάποιο σκοπό από πίσω?
JW: Δεν ξέρω. Αλλά πρέπει να διηγηθώ κάτι επ' αυτού. Συνέβη εδώ και κάποια χρόνια. Ο Reagan ήταν ακόμη πρόεδρος. Είχε πάει σε ένα πάρκο Disneyland. Του έδειξαν παιδιά που πυροβολούσαν αεροπλάνα στον υπολογιστή. Και τότε αυθόρμητα είπε: “Αυτοί είναι οι πιλότοι του αύριο.” Και είχε απόλυτο δίκαιο. Ρωτάτε αν είναι σκοπιμότητα. Τουλάχιστο το περιστατικό με τον Reagan είναι πραγματικό.
ΒΖ: Αυτά είναι εξαιρέσεις, λένε οι κριτικοί σας.
JW: Δεν είναι. Πάρτε για παράδειγμα “αθώα” παιχνίδια όπου τρώγονται ζώα ή πολεμούν ρομπότ. Όλα αναίμακτα. Αλλά είναι όμως βία και καταστροφή, η νίκη κατά εκείνου τον οποίο θέλει κανείς να εξαφανίσει.
ΒΖ: Καταπιάνεστε εδώ και 40 χρόνια με υπολογιστές. Επέφερε η τεχνολογία αυτή την πρόοδο την οποία ελπίζατε?
JW: Δεν μπορώ να πω έτσι απλά τι έλπιζα. Δεν ξέραμε πόσο τρομακτικά γρήγορη θα ήταν η πρόοδος. Μέχρι το 1957, νόμιζαν σημαντικοί άνθρωποι, που πράγματι κάτι καταλάβαιναν από υπολογιστές, πως έρχεται σύντομα ο καιρός, που θα έχουμε στην Αμερική 7 με 8 μεγάλους υπολογιστές. Και αυτό θα ήταν και η υπολογιστική ανάγκη των ΗΠΑ θα καλυπτόταν. Ένας υπολογιστής σε κάθε μεγάλη πόλη. Δεν μπορούσαμε να φανταστούμε πως έρχεται καιρός όπου σχεδόν κάθε φοιτητής έχει για εκείνη την εποχή αφάνταστα γρήγορο υπολογιστή.
ΒΖ: Τι έδωσε την ώθηση για ένα τέτοιο ρυθμό ανάπτυξης?
JW: Η ώθηση προήλθε ξεκάθαρα από τον στρατό. Ο υπολογιστής επινοήθηκε πριν 60 χρόνια, και αναπτύχθηκε στην Αμερική, Αγγλία και Γερμανία, ανεξάρτητα (χωρίς συνεργασία μεταξύ τους). Ήταν από την αρχή ένα όργανο πολέμου. Λίγο καιρό μετά από μια αφάνταστα έντονη αποστρατικοποίηση, με τον πόλεμο της Κορέας ξεκίνησε η μοντέρνα στρατικοποίηση της αμερικάνικης κοινωνίας, η οποία δεν έχει ακόμα σταματήσει. Ο στρατός απαίτησε τα τεράστια computer να γίνουν πολύ μικρότερα. Δεν έπρεπε απλά να χωράνε σε ένα αεροπλάνο αλλά και σε ένα πύραυλο. Για τον σκοπό αυτό ήταν διαθέσιμα άπειρο ποσό χρημάτων και άπειρο ανθρώπινο ταλέντο. Νομίζω πως, αν ο αμερικάνικος στρατός θεωρούσε απαραίτητη την ανάπτυξη ηλιακών κυψελών, και την υποστήριζε, όπως τότε υποστήριξε την ανάπτυξη του τρανζίστορ (βασικό εξάρτημα ενός ηλεκτρονικού επεξεργαστή), θα είχαμε σήμερα αξιοποιημένη ηλιακή ενέργεια, και δε θα χρειαζόμασταν τα πυρηνικά εργοστάσια. Οι υπολογιστές για την βιομηχανία ήρθαν ως "παραπροϊόντα".
ΒZ: Ο άνθρωπος κατασκευάζει τον εαυτό του σαν υπολογιστή, αλλά ενσωματώνει και τα σφάλματα του, ενώπιον των οποίων είναι αβοήθητος (όταν δηλαδή ο υπολογιστής κάνει κάτι αντ' αυτού)
JW: Αυτή την κατάσταση όπου ο άνθρωπος είναι αβοήθητος, δεν μπορούμε να μην την δούμε. Οι πτώσεις των Airbus είναι ένα παράδειγμα. Ή σκεφτείτε την κατάρρευση των χρηματιστηρίων το 1987, μόνο και μόνο γιατί οι υπολογιστές "τρελάθηκαν". Κατά το τρομερό ατύχημα στο Bhopal της Ινδίας (διέρρευσαν τοξικά), ένα σφάλμα του λογισμικού παρεμπόδισε την έγκαιρη ενημέρωση του πληθυσμού. Κατασκευάζουμε όλο και περισσότερα συστήματα με τρομερή πολυπλοκότητα, τα οποία δεν μπορούμε πια να ελέγξουμε.
ΒZ: Ο ίδιος είπατε κάποτε, πως ως νεαρός πιστεύατε πως όλα τα ερωτήματα αυτού του κόσμου μπορούν να υπολογισθούν μαθηματικά.
JW: Ήμουν 16 όταν είδα για πρώτη φορά την συμβολική λογική. Ναι, τότε σκέφτηκα, με αυτό όλα είναι δυνατά. Αλλά αυτό δεν θα το έλεγα πίστη. Είναι όπως με τη γλώσσα: όλα μπορούν να ειπωθούν, αλλά είναι πολύ μακριά να πούμε πως όλα ειπώθηκαν.
ΒZ: Μεταξύ άλλων έχετε αναπτύξει το υπολογιστικό σύστημα της Bank of America. Υπάρχουν και άλλες δουλειές για τις οποίες είστε περήφανος;
JW: Αχ. ήμουν αρκετά καλός δάσκαλος. Και αν καταλαβαίνω κάτι μπορώ να το μεταδώσω με κατανοητό τρόπο. Στις ΗΠΑ είναι διαφορετικά απ' ότι εδώ στην Γερμανία. Αν εδώ γράψει ένας ακαδημαϊκός ένα βιβλίο που είναι κατανοητό από τον γενικό πληθυσμό, γρήγορα θα κατηγορηθεί ως μη επιστημονικό.
ΒZ: Γιατί δεν αναφέρετε το πρόγραμμα ELIZA, που εσείς αναπτύξατε; Που θεωρείται από τους θεμέλιους λίθους στην ιστορία της τεχνητής νοημοσύνης;
JW: Το ότι έγινε θεμέλιος λίθος οφείλεται στο πόσο τρομερά παρανοήθηκε η εργασία και στην κατάχρηση που έγινε και γίνεται ακόμη. Αυτό έγινε το 1966, και ήταν τεχνικά απλό. Ανέπτυξα μηχανισμούς για την ανάλυση και χειρισμό φυσικών γλωσσών, λέξεων και προτάσεων δηλ, μέσα στον υπολογιστή. Ήθελα να δοκιμάσω αυτούς τους μηχανισμούς, και με μια σειρά έξυπνων τρικ-το παραδέχομαι ευχαρίστως- προσομοίωσα την συνομιλία ψυχίατρου-ασθενούς. Αυτό ήταν πολύ αστείο για μένα και άλλους. Αλλά έγινε σοβαρό όταν ψυχίατροι είπαν: αυτή είναι η αρχή της αυτόματης ψυχιατρικής. Αυτό δεν σήμαινε τίποτε άλλο παρά το ότι πίστεψαν πως οι μηχανές μπορούν να αντιμετωπίσουν θεραπευτικά ένα άνθρωπο. Τότε σκέφτηκα, τί τρέχει εδώ; Και σήμερα, μπορεί κανείς να αγοράσει στην Αμερική προγράμματα που κάνουν ακριβώς αυτό.
ΒZ: Άλλοι επιστήμονες, όπως ο Αμερικανός Hans Morawec πάνε πολύ πιο μακριά. Λέει πως είμαστε πολύ κοντά στον καιρό, που κάθε σημαντική σωματική ή πνευματική λειτουργία του ανθρώπου θα έχει το τεχνητό της αντίστοιχο. Βλέπει ένα μεταβιολογικό κόσμο, που θα κυριαρχείται από μηχανές που σκέφτονται και βελτιώνονται από μόνες τους. Ίσως σε 50 χρόνια.
JW: Ναι και εμείς οι άνθρωποι θα είμαστε τυχεροί αν οι απόγονοί μας κρατήσουν για σκυλάκια του καναπέ. Έτσι συνεχίζεται αυτή η ανοησία. Ο άνθρωπος έχει την δύναμη της αναπαράστασης και την φαντασία. Αλλά αυτό δεν σημαίνει ότι μπορεί να γίνει πραγματικότητα - ή ότι πρέπει να γίνει!
ΒZ: Εννοείτε δηλ. πως οι προβλέψεις για την εμφάνιση τέτοιων δημιουργημάτων της τεχνητής νοημοσύνης απλά δεν είναι ρεαλιστική;
JW: Εννοώ πως είναι ανώμαλο να σκέφτεται κανείς πως μπορεί να κατασκευάσει τεχνητά ότι είναι ανθρώπινο. Οι ελπίδες και προβλέψεις των μεγαλύτερων αυθεντιών, που έγιναν πριν 30 χρόνια, του τομέα της τεχνητής νοημοσύνης, δεν έχουν πραγματοποιηθεί.
ΒZ: Τότε γιατί ανησυχείτε;
JW: Γιατί οι ιδέες έχουν δύναμη, και οι λανθασμένες ιδέες επίσης έχουν μεγάλη δύναμη. Η ιδέα, πως εμείς οι άνθρωποι δεν είμαστε τίποτε άλλο παρά ένας σωρός από πληροφορίες, μια πολύ εκλεπτυσμένη μηχανή, που μπορεί να αντικατασταθεί από άλλες, αυτή η ιδέα -αν και λανθασμένη- έχει πολλή δύναμη.
ΒZ: Σας κατηγορούν οι συνάδελφοι σας ως κάποιον που λέρωσε την φωλιά του;
JW: Όχι αυτό δεν έγινε ποτέ, τουλάχιστο δεν το έχω αντιληφθεί. Πριν κάποιο καιρό, ρώτησαν τον πρόεδρο του ΜΙΤ, σε μια συνέντευξη στο γαλλικό περιοδικό Magazin Express, εάν σκέφτεται τις πολιτικές συνέπειες και τους κινδύνους που προκύπτουν από την εργασία του ινστιτούτου. Ο πρόεδρος απάντησε: "για την δουλειά αυτή έχουμε τον καθηγητή Weizenbaum". Και συμφωνώ, είμαι απλά ένα φύλλο συκής (σαν παραπέτασμα, για να κρυφτεί κάτι). Αλλά πρέπει να πω τότε ότι θα σταματήσω αυτό που κάνω;
ΒZ: Ας ρίξουμε μια ματιά στο μέλλον. Θα κάνουμε σε λίγο περιπάτους στην virtual reality του cyberspace σε μακρινούς πλανήτες, ή από το δωμάτιο μας νυχτερινούς περιπάτους στο Παρίσι;
JW: Πολλές υποσχέσεις γίνονται, αλλά όλα αυτά είναι τόσο εκτός πραγματικότητος και τόσο ακριβά, που ούτε σε 15 χρόνια δεν θα είναι ούτε στο περίπου τέλεια. Αλλά είμαι σχεδόν έτοιμος να πω, πως στα επόμενα 20 χρόνια, ο υπολογιστής θα εξαφανιστεί στο υποσυνείδητο, όπως και ο ηλεκτρικός κινητήρας. Είναι παντού, αλλά δεν μιλάμε πολύ περί αυτού. Και κάτι ακόμη. Θα έρθει καιρός που ο επιστήμονας των υπολογιστών θα πέσει στην ίδια δυσμένεια όπως και ο πυρηνικός επιστήμονας. Φοβάμαι πως η ανθρώπινη επικοινωνία θα μειωθεί τόσο, λόγω της επέκτασης των υπολογιστών ώστε να είναι για λύπηση το γεγονός. Δεν είναι μεγαλύτερη η χαρά να μιλάς με ένα άνθρωπο, παρά με ένα υπολογιστή;
Mετάφραση: Πέτρος
Αμέθυστος
ΚΟΥΪΖ. ΕΠΙΣΗΜΟ. ΠΟΥ ΒΡΕΘΗΚΑΝ ΤΑ 800δις ΣΤΟΝ ΕΛΛΗΝΙΚΟ προϋπολογισμό ;;;
ΑπάντησηΔιαγραφήhttps://skeftomasteellhnika.blogspot.com/2022/04/800.html