ai and security

Η ασφάλεια πίσω από την Τεχνητή Νοημοσύνη

Ο Γιάννης Κανελλόπουλος, μηχανικός τεχνολογίας λογισμικού (software engineer) με ειδίκευση στην αξιολόγηση ποιότητας πολύπλοκων λογισμικών μας μίλησε για την πορεία του στο εξωτερικό και την απόφαση να γυρίσει πίσω στην Ελλάδα και να ιδρύσει τη δική του εταιρεία, την Code4thought. Μας εξήγησε την διαδικασία αξιολόγησης ενός λογισμικού και αναφερθήκαμε στα νέα παράθυρα συζήτησης που προβάλλει η έλευση της τεχνητής νοημοσύνης στην τεχνολογία, όπως την ηθική και την ασφάλεια. Μας έδωσε μια μικρή ματιά στο μέλλον καθώς και συμβουλές για νέους επιστήμονες στον χώρο και όχι μόνο. 

Γιάννης Κανελλόπουλος

Αρχικά Γιάννη, μίλησε μας για την ακαδημαϊκή και επαγγελματική σου πορεία.

Το πρώτο μου πτυχίο είναι στην πληροφορική από το Οικονομικό Πανεπιστήμιο Αθηνών. Τελειώνοντας εργάστηκα για έναν χρόνο στην Accenture στην Αθήνα, μια εμπειρία από την οποία έμαθα πολλά και αποφάσισα να εμβαθύνω περισσότερο στο κομμάτι της μηχανικής των πληροφοριακών συστημάτων. Έφυγα στην Αγγλία στο πανεπιστήμιο του Manchester για να κάνω το μεταπτυχιακό μου στο κομμάτι του Information Systems Engineering. Κάνοντας το μεταπτυχιακό ανακάλυψα έναν πολύ ενδιαφέροντα κλάδο στο Software Engineering και Software Maintenance, τον κλάδο του Program Comprehension, δηλαδή με ποιες τεχνικές οι developers μπορούν να καταλάβουν καλύτερα έναν κώδικα και την ποιότητα του. Έτσι, γεννήθηκε και η ιδέα για το διδακτορικό μου. Τελειώνοντας το, είχα ανακαλύψει μια εταιρία στην Ολλανδία η οποία έκανε σε βιομηχανικό/επιχειρηματικό επίπεδο αυτό που εγώ έκανα στην έρευνα μου. Έτσι κατέληξα στο Άμστερνταμ και λίγο αργότερα το 2017 ξεκίνησα την δικιά μου εταιρεία αξιολόγησης λογισμικών, την Code4thought.

Πως σου ήρθε η ιδέα να ξεκινήσεις μια δική σου εταιρεία πάνω σε αυτόν τον τομέα; Είδες κάποιο κενό στην αγορά ή ήταν κάποια εμπειρία η οποία σε κίνησε σε αυτό;

Από το 2002, είχα δει ότι υπάρχουν αρκετά κενά στο πώς λειτουργεί γενικότερα η βιομηχανία του software engineering. Είδα ότι δεν υπήρχαν πρότυπα, δεν υπήρχαν καλές πρακτικές (best practices), δεν υπήρχαν κανόνες. Ο κάθε προγραμματιστής έκανε ό,τι ήθελε εκείνος. Μας ενδιέφερε απλώς να δουλεύει κάπως σωστά. Το πώς ήταν φτιαγμένο και πώς θα δούλευε σε 10 μήνες, κανέναν δεν ενδιέφερε. 

Κατά τη διάρκεια των μεταπτυχιακών και των διδακτορικών σπουδών μου άρχισα να καταλαβαίνω καλύτερα το κομμάτι της ποιότητας λογισμικού, τι σημαίνει και ποιο το όφελος. Από ένα σημείο και μετά και στην Ελλάδα υπήρχε κρίσιμη μάζα από πελάτες που θα μπορούσαν να υποστηρίξουν μια εταιρεία όπως η δική μας και κάπως έτσι την ξεκινήσαμε. Το κομμάτι της τεχνητή νοημοσύνης (ΤΝ) ήρθε από ένα προσωπικό ενδιαφέρον το οποίο ξεκίνησε να με απασχολεί από το 2015.

Είναι κρίσιμο η τεχνολογία που φτιάχνουμε πλέον να έχει τη σωστή ποιότητα, να μπορεί ο κόσμος να την εμπιστευτεί γιατί η εξάρτησή μας από αυτή ολοένα και μεγαλώνει. Μεγαλώνει σε σημείο που επηρεάζει την καθημερινότητά μας και στα πιο απλά πράγματα. Από το τι εκπομπές θα δούμε στην τηλεόραση, τι μουσική θα ακούσουμε μέχρι και τι πληροφορίες παίρνουμε πριν ψηφίσουμε επηρεάζονται από αλγόριθμους. Καταλαβαίνουμε ότι σε όλα αυτά τα πράγματα πλέον χρειάζεται μεγαλύτερος έλεγχος και συνειδητοποίηση. 

Μπορείς να μας περιγράψεις την λειτουργία της Code4thought;

Το μότο μας σαν εταιρεία είναι ότι θέλουμε να βοηθάμε οργανισμούς να φτιάξουν τεχνολογία η οποία είναι thoughtful και trusted.

Αυτό που κάνουμε ως εταιρεία είναι να αξιολογούμε συστήματα λογισμικού μεγάλης κλίμακας, είτε αυτά είναι τα τυπικά συστήματα που ξέρουμε με πολύ κώδικα από πίσω είτε είναι συστήματα ΤΝ. Αναλύοντας την ποιότητα των συστημάτων στο τεχνικό της κομμάτι βοηθάμε τις ομάδες που τα έχουν φτιάξει να τα βελτιώσουν, ενημερώνουμε και τη διοίκηση του οργανισμού για το τι συμβαίνει με τα συστήματα. Φροντίζουμε αυτοί οι άνθρωποι να παίρνουν τη σωστή πληροφόρηση γύρω από το τι συμβαίνει ώστε να μπορέσουν να πάρουν καλύτερες αποφάσεις γύρω από τα συστήματα και να αντιμετωπίσουν με επάρκεια τα ρίσκα που έχουν. Το μότο μας σαν εταιρεία είναι ότι θέλουμε να βοηθάμε οργανισμούς να φτιάξουν τεχνολογία η οποία είναι thoughtful και trusted. Κάποιος έχει σκεφτεί πολύ σοβαρά πριν από τη σχεδίαση της ποια είναι τα ρίσκα και οι επιπτώσεις αυτής της τεχνολογίας και πώς μπορεί να είναι αξιόπιστη.

Χρησιμοποιείτε τεχνολογία τεχνητής νοημοσύνης (ΤΝ) κατά την αξιολόγηση ενός λογισμικού; 

Για να κάνουμε την ανατροπή, δεν χρησιμοποιούμε ΤΝ. Η πλατφόρμα που φτιάχνουμε επί της ουσίας κάνει κάποιες στατιστικές αναλύσεις, δεν είναι ότι φτιάχνουμε ΤΝ για την ΤΝ, φτιάχνουμε τεχνολογία η οποία θα μας βοηθήσει να ελέγξουμε τέτοια συστήματα. Πιθανότατα κάποια στιγμή να μπει ένα κομμάτι τεχνητής νοημοσύνης μέσα, έχουμε κάποιες σκέψεις, αλλά προς το παρόν η πλατφόρμα κάνει κάποιους ελέγχους με βάση διάφορα στατιστικά μοντέλα που υπάρχουν και με διάφορες τεχνικές στις οποίες δεν είναι απαραίτητη η χρήση τεχνολογίας ΤΝ.

Από εκεί και πέρα όμως το ενδιαφέρον στην ομάδα μας είναι ότι έχουμε AI engineers που είναι οι άνθρωποι που κάνουν τους ελέγχους (testing) για τα συστήματα των πελατών μας, έχουμε software engineers που αναπτύσσουν την πλατφόρμα έχουμε και machine learning engineers οι οποίοι είναι στο κομμάτι της αξιολόγησης των συστημάτων. Έχουμε ένα σύνολο δεξιοτήτων που είναι συμπληρωματικές μεταξύ τους και μας βοηθάνε να κάνουμε τη δουλειά μας με επιστημονική επάρκεια στο σύνολό της. Αν το δούμε και από επιχειρηματική μεριά, έχουμε και ευρεία γνώση των καλών πρακτικών (best practices) που πρέπει να εφαρμόζει κάποιος στην ανάπτυξη των συστημάτων ΤΝ και των ελέγχων τους. Μπορεί να ακούγεται παράξενο ότι εμείς δεν χρησιμοποιούμε ΤΝ αλλά ξέρουμε πάρα πολύ καλά από αυτόν τον τομέα.

Ποιες διαφορές υπάρχουν κατά την αξιολόγηση ενός λογισμικού βασισμένου σε τεχνολογία ΤΝ σε σχέση με ένα παραδοσιακό λογισμικό;

Λοιπόν, υπάρχουν βασικές διαφορές. Φανταστείτε ότι έχουμε μια τράπεζα. Η τράπεζα έχει ένα σύστημα το οποίο είναι η γνωστή σε όλους μας ηλεκτρονική τραπεζική (mobile web banking) και ένα σύστημα το οποίο κάνει αποτίμηση πιστωτικού κινδύνου (credit risk), κρίνει δηλαδή αν κάποιος πελάτης πρέπει να πάρει δάνειο ή όχι.

Στο πρώτο, σε ένα web banking σύστημα, υπάρχουν εκατομμύρια γραμμές κώδικα από πίσω. Το σύστημα είναι πλήρως ντετερμινιστικό. Ξέρουμε τη συμπεριφορά του γιατί είναι υλοποιημένη όλη σε επίπεδο κώδικα. Εκεί θα ελέγξουμε την ασφάλεια του κώδικα γιατί προφανώς είναι ένα σύστημα το οποίο είναι εκτεθειμένο στον έξω κόσμο οπότε πρέπει να φροντίσουμε ότι κάποιος κακόβουλος χρήστης (hacker) δεν μπορεί να εκμεταλλευτεί δυνητικά κενά στον κώδικα. Θα πρέπει να ελέγξουμε την ποιότητα του κώδικα ώστε να ξέρουμε ότι δεν υπάρχει αυτό που λέμε το τεχνικό χρέος έτσι ώστε αν υπάρχει ένα σφάλμα (bug) ή αν θέλουμε να βάλουμε καινούργια χαρακτηριστικά στο σύστημα, ο κώδικας θα πρέπει να μας επιτρέψει να το κάνουμε σχετικά εύκολα. Ένας πολύπλοκος κώδικας προφανώς θα μας κάνει τη ζωή πιο δύσκολη. Επίσης, θα πρέπει να προσέξουμε το σύστημα να δουλεύει σωστά, αυτό που λέμε να είναι αποδοτικό (efficient). Είτε μπουν 10 χρήστες είτε 10.000 χρήστες να κάνει την δουλειά του όπως πρέπει. Αυτά τα πράγματα εξετάζεις σε ένα παραδοσιακό σύστημα.

Από την άλλη, ένα credit risk σύστημα θα δούμε ότι έχει ελάχιστες γραμμές κώδικα από πίσω αλλά διαχειρίζεται μεγαλύτερους όγκους δεδομένων και οι αποφάσεις που παίρνει είναι πιο κρίσιμες. Προφανώς έχοντας γράψει κώδικα και για το credit risk σύστημα θα ελέγξω και κάποια πράγματα στον κώδικα αλλά δεν είναι τα κρίσιμα. Εδώ τα κρίσιμα σημεία αφορούν τη δυναμική συμπεριφορά του συστήματος. Πρέπει να δω αν μπορώ να εξηγήσω τις αποφάσεις του συστήματος, σε ποιο βαθμό υπάρχει μεροληψία και προκατάληψη, αν τα δεδομένα που χρησιμοποιούνται για να αξιολογηθεί το σύστημα έχουν την επαρκή ποιότητα ή αν είναι δομημένα με τέτοιο τρόπο ώστε να μπορώ να βρω αδυναμίες εύκολα.

Αν το web banking μιας τράπεζας πέσει για μια μέρα θα μας κάνει τη ζωή πιο δύσκολη αλλά την επόμενη μέρα θα έχει επανέλθει. Εάν το σύστημα το οποίο δίνει δάνεια στον κόσμο δεν δουλεύει σωστά, άνθρωποι μπορεί να μην πάρουν δάνεια ή οι λάθος άνθρωποι να πάρουν δάνεια και η τράπεζα να χάσει χρήματα από αυτές τις δανειοδοτήσεις. Καταλαβαίνουμε ότι η κρισιμότητα του ενός συστήματος είναι μεγαλύτερη σε σχέση με το άλλο και κυρίως ο αντίκτυπος που αυτό το σύστημα μπορεί να έχει στις δικές μας ζωές. Όλα αυτά διαφοροποιούν τη διαδικασία αξιολόγησης του ενός συστήματος από το άλλο για να ελέγξουμε την ακεραιότητα του.

Πιστεύεις ότι οι μεγάλες εταιρείες τεχνητής νοημοσύνης (π.χ. OpenAI) που παρέχουν κάποια πολύ χρήσιμα εργαλεία, ακολουθούν τέτοιες πρακτικές ή χρειάζεται μεγάλη βελτίωση ακόμη και σε μεγάλους οργανισμούς;

Το δεύτερο. Δεν θεωρώ προφανώς ότι όλες αυτές οι εταιρείες παραμελούν το θέμα της ποιότητας ή της αξιοπιστίας αλλά θεωρώ ότι δεν ζούμε σε έναν κόσμο αγγελικά πλασμένο. Για όλες αυτές τις εταιρείες, όχι μόνο οι μεγάλες αλλά γενικότερα οι οργανισμοί, ο σκοπός είναι το κέρδος. Οπότε πάντα υπάρχει το δίπολο, το κέρδος εναντίον της ποιότητας. Προφανώς όσο πιο καλή θέλουμε να είναι μια τεχνολογία και πιο αξιόπιστη πρέπει να επενδύσουμε περισσότερα χρήματα, κόπο, χρόνο, ανθρώπους και ταλέντο. Πολλές φορές αυτό μπορεί να μας εμποδίσει από το να αναπτυχθούμε γρήγορα στο εμπορικό κομμάτι. Οπότε όλοι αυτοί οι οργανισμοί επί της ουσίας προσπαθούν να ισορροπήσουν σε αυτό το δίπολο και να βρουν την χρυσή τομή. Κάποιοι θα θυσιάσουν στο ένα κομμάτι, κάποιοι θα θυσιάσουν στο άλλο. 

Θεωρώ ότι οι μεγάλες εταιρείες τεχνολογίας (Big Tech) προτιμούν να θυσιάσουν στο κομμάτι της ποιότητας. Εδώ δεν υπάρχει σωστό ή λάθος. Αν το δούμε και από τη σκοπιά των κανονισμών (regulations)  που επιβάλλονται σταδιακά στον τομέα της ΤΝ, δεν μπορούμε να πούμε αν το σωστό είναι ένα innovation-first-approach (προσέγγιση με κυρίαρχη έμφαση την καινοτομία), δηλαδή να αφήνουμε τις εταιρείες να κάνουν περισσότερα πράγματα χωρίς πολλούς κανόνες ή να έχουμε περισσότερους κανόνες ώστε η καινοτομία να είναι πιο υπεύθυνη. Προσωπικά μ’ αρέσει περισσότερο να μπαίνουν κανόνες από την αρχή και όλα τα πράγματα να είναι ελεγχόμενα παρά να έρχονται σε δεύτερη φάση που δεν είναι το πιο σωστό. Επιπλέον, πολλοί οργανισμοί χρησιμοποιούν την αξιοπιστία (trustworthiness) και την ηθική (ethics) ως μέσα διατήρησης δημοσίων σχέσεων. Εμένα θα με ενδιέφερε όλες αυτές οι εταιρίες να δείξουν περισσότερο τι έχουν πετύχει ως οργανισμός επειδή το έκαναν αυτό. Να λογοδοτήσουν περισσότερο πάνω σε αυτό και να δώσουν παραπάνω δεδομένα και πληροφόρηση. Στο τέλος της ημέρας η εμπειρία μας δείχνει ότι προσέχοντας την ποιότητα και την αξιοπιστία ενός ΑΙ συστήματος οι οργανισμοί θα έχουν αρκετά οφέλη και σε επιχειρηματικό επίπεδο. 

Η ηθική γενικά είναι ένας όρος που ακούγεται συχνά σε συζητήσεις περί ΤΝ. Πιστεύεις ότι μπορούμε να προσάψουμε τις έννοιες της ηθικής και της ακεραιότητας σε μια μηχανή και τι μπορεί να σημαίνει αυτό. 

Η μέχρι τώρα τεχνολογία ήταν αρκετά ντετερμινιστική οπότε ήταν πιο εύκολο να ενσταλάξεις κάποιες αρχές στην τεχνολογία σου. Τώρα με την τεχνητή νοημοσύνη είναι πιο δύσκολο και γι’ αυτό είναι και πιο αναγκαίο.

Θεωρώ ότι είναι πολλά τα χρόνια που προσπαθούμε να προσάψουμε στην τεχνολογία το κομμάτι της ηθικής και της ακεραιότητας, απλώς ήταν κάπως παραμελημένο. Πολύ απλά, η μέχρι τώρα τεχνολογία ήταν αρκετά ντετερμινιστική οπότε ήταν πιο εύκολο να ενσταλάξεις κάποιες αρχές στην τεχνολογία σου. Τώρα με την τεχνητή νοημοσύνη είναι πιο δύσκολο και γι’ αυτό είναι και πιο αναγκαίο. Και πάλι εδώ θεωρώ ότι δεν υπάρχει μια χρυσή συνταγή για σωστούς κανόνες. Οι ηθικές αρχές ενός οργανισμού δεν είναι απαραίτητα κατάλληλες αρχές για έναν άλλο οργανισμό. Επηρεάζεται πάρα πολύ από την κουλτούρα του οργανισμού. Κάθε οργανισμός έχει διαφορετικούς τρόπους που αντιμετωπίζει προβλήματα και προφανώς αυτά αναπαράγονται και στην τεχνολογία του. Με τις τεχνολογίες της τεχνητής νοημοσύνης έχουμε ένα πολύ καλό έδαφος να φανεί πώς η κουλτούρα ενός οργανισμού μπορεί να επηρεάσει πιο άμεσα την τεχνολογία.

 Όλη αυτή η συζήτηση είναι συναρπαστική. Δεν την είχαμε όλα αυτά τα χρόνια και δεν αφορά μόνο εμάς τους μηχανικούς ή τους πληροφορικούς. Αφορά πολύ περισσότερο κόσμο. Ειδικά στους οργανισμούς αφορά το επιχειρηματικό κομμάτι, το νομικό κομμάτι, την ανώτατη διοίκηση κλπ. Είναι ίσως μια ευκαιρία για πολύ περισσότερο κόσμο να καθίσει γύρω από ένα τραπέζι και να αποφασίσει τι είδους τεχνολογία θέλει να φτιάξει. 

Πως κρίνεται η ασφάλεια κάποιας ευαίσθητης πληροφορίας (π.χ. κυβερνητικά έγγραφα, τραπεζικοί λογαριασμοί) όταν διαχειρίζεται από ένα μοντέλο το οποίο βασίζεται σε ΤΝ.

Για μένα είτε τα έγγραφα τα διαχειρίζεται ένα σύστημα ΤΝ είτε ένα παραδοσιακό, ο μεγαλύτερος παράγοντας ρίσκου είναι πάντα ο άνθρωπος.

Η ασφάλεια ενός συστήματος εξαρτάται από αρκετούς παράγοντες όπως απ’ την ασφάλεια του δικτύου, την ασφάλεια του κώδικα πίσω από το σύστημα και ούτω καθεξής. Για μένα είτε τα έγγραφα τα διαχειρίζεται ένα σύστημα ΤΝ είτε ένα παραδοσιακό, ο μεγαλύτερος παράγοντας ρίσκου είναι πάντα ο άνθρωπος. Είτε από κακόβουλη συμπεριφορά, είτε από απλή αμέλεια, κάποιος άνθρωπος που δεν είναι σωστά εκπαιδευμένος μπορεί να κάνει κάποιο λάθος. Εδώ δεν θα πρέπει να ρίξουμε το φταίξιμο στον άνθρωπο αλλά στον οργανισμό, που ενώ καλείται να διαχειρίζεται και να διαφυλάττει κρίσιμη πληροφορία δεν έχει τις σωστές δεξιότητες για αυτό.

Επίσης θεωρώ ότι ένα σύστημα ΤΝ δεν μπορούμε να το εμπιστευτούμε τυφλά, πρέπει να υπάρχει ανθρώπινη παρέμβαση και επιτήρηση. Ένα ωραίο παράδειγμα είναι όταν θέλουμε στον οργανισμό μας να βάλουμε το ChatGPT αλλά φοβόμαστε. Ναι, είναι πολύ σωστός ο φόβος, γιατί μπορεί, αυτό το σύστημα να αρχίσει να αποκαλύπτει πληροφορία σε άλλους. Εδώ παίζει ρόλο το πόσο σωστά μπορείς να εκπαιδεύσεις τους υπαλλήλους σου. Όσο συναρπαστικό και να είναι το ChatGPT ή οποιοδήποτε γλωσσικό μοντέλο (LLM – Large Language Model) εκεί έξω, είναι εργαλεία. Δεν είναι κάτι παραπάνω. Ούτε είναι η ανώτατη νοημοσύνη ούτε αυτό που λέμε general AI. Είναι general purpose AI, αλλά δεν είναι το general AI. Δεν έχουμε φτάσει σε αυτό το σημείο. Είναι πολύ καλά εργαλεία με τρομερές δυνατότητες που κάποιος πρέπει να εκπαιδευτεί για να τα χρησιμοποιήσει σωστά.

Πως θα περιέγραφες την πρόοδο της ΤΝ από τότε που ξεκίνησες στον κλάδο μέχρι σήμερα;

Η πρόοδος είναι σταδιακή θα έλεγα, δεν βλέπω δραματική πρόοδο ή βελτίωση. Πολύ απλά γιατί πολλοί οργανισμοί αρχίζουν να καταλαβαίνουν το κομμάτι της τεχνητής νοημοσύνης τώρα τον τελευταίο χρόνο. Από την έλευση του ChatGPT όλη η συζήτηση περί τεχνητής νοημοσύνης, περί ηθικής και περί trustworthiness έχει επιταχυνθεί πάρα πολύ. Πριν ήταν λίγο πιο αργά τα πράγματα. Οι οργανισμοί με αφορμή το ChatGPT κατάλαβαν τον αντίκτυπο που μπορεί να έχει η τεχνολογία της τεχνητής νοημοσύνης. Οπότε θεωρώ ότι τις μεγάλες αλλαγές και βελτιώσεις θα τις δούμε τα επόμενα χρόνια. Το ενδιαφέρον είναι ότι πολλοί οργανισμοί έχουν συστήματα τεχνητής νοημοσύνης χωρίς να το γνωρίζουν, και δεν μιλάμε για το ChatGPT, αλλά μιλάμε για συστήματα τα οποία από πίσω μπορεί να έχουν αλγορίθμους που βασίζονται είτε σε δίκτυα βαθιάς μάθησης (deep learning) ή χρησιμοποιούν γραμμική παλινδρόμηση ή ακόμα είναι απλοί αλγόριθμοι που παίρνουν αποφάσεις και που σύμφωνα με τις νομοθεσίες υπόκεινται σε ελέγχους ώστε να είμαστε σίγουροι ότι δουλεύουν σωστά.

Πώς θεωρείς θα επηρεαστούν τόσο ο τομέας της τεχνολογίας λογισμικού (software engineering), αλλά και άλλοι εργασιακοί τομείς από την ΤΝ τα επόμενα χρόνια;

Θεωρώ ότι τα επαγγέλματα θα αλλάξουν σίγουρα, το θέμα είναι πόσο έτοιμοι θα είμαστε να προσαρμοστούμε σε αυτές τις αλλαγές.

Θεωρώ ότι έρχονται πολλές αλλαγές. Ειδικότερα με την έλευση των foundation models και των μεγάλων γλωσσικών μοντέλων (LLMs) θα δούμε πολλά επαγγέλματα να αλλάζουν. Φανταστείτε, πριν από ένα χρόνο όταν πρωτοβγήκε το ChatGPT και συνειδητοποίησαν όλοι ότι μπορεί να γράψει και κώδικα αν του δοθούν οι κατάλληλες οδηγίες, ήταν η πρώτη φορά που είδα software engineers να ανησυχούν για το μέλλον της δουλειάς τους παρότι θεωρείται ένα από τα πιο ασφαλή επαγγέλματα. Θεωρώ ότι τα επαγγέλματα θα αλλάξουν σίγουρα, το θέμα είναι πόσο έτοιμοι θα είμαστε να προσαρμοστούμε σε αυτές τις αλλαγές. 

Προσωπικά θεωρώ το ChatGPT ως ένα πολύ συναρπαστικό εργαλείο αλλά από την άλλη, δεν το εμπιστεύομαι. Μπορεί να σου αυξήσει την παραγωγικότητα και τη δημιουργικότητα. Αρκεί να βάλεις σωστό prompt και να έχεις ιδέες για να του δώσεις κάτι να εργαστεί. Και πάλι είναι απλώς ένα εργαλείο, δεν είναι κάτι άλλο. Ένα εργαλείο με το οποίο πλέον μπορείς να κάνεις πολλά πράγματα μαζί του, να σου γλυτώσει χρόνο και το κυριότερο να σου δώσει και καινούργιες ιδέες.  

Εσύ ως software engineer, πως θα εξηγούσες πολύ απλοϊκά, πιθανώς σε κάποιον που δεν γνωρίζει, τι είναι η ΤΝ.

Τι είναι η Τεχνητή Νοημοσύνη, λοιπόν. Πώς θα το εξηγούσα στην κόρη μου που είναι πέντε χρονών. Θα πάω στο generative AI, που είναι, θεωρώ, και το πιο εύκολο να εκλαϊκεύσεις. Αν το έλεγα στην κόρη μου, θα έλεγα ότι είναι ένα παιχνίδι, με το οποίο μπορείς να φτιάξεις άλλα παιχνίδια χωρίς να χρειάζεται πολύ μεγάλο κόπο. Τώρα, αν ήταν να το εξηγήσω σε κάποιον ο οποίος είναι π.χ. ένας δικηγόρος θα έλεγα ότι είναι μια μηχανή, της οποίας δεν μπορεί να προγραμματιστεί όλη η συμπεριφορά της, μπορείς να προγραμματίσεις ένα μέρος της, και το υπόλοιπο εξαρτάται από τα δεδομένα που θα χρησιμοποιήσεις για αυτή τη μηχανή, καθώς επίσης και τι είδους μηχανή θες να φτιάξεις.

Τι συμβουλή θα έδινες σε ένα νέο φοιτητή, ο οποίος θέλει να ασχοληθεί επαγγελματικά με το πεδίο της ΤΝ. Τι βλέψεις θεωρείς μπορεί να έχει;

Θεωρώ ότι έχετε ένα μέλλον πάρα πολύ ενδιαφέρον μπροστά σας και για μένα η μεγαλύτερη δεξιότητα είναι να είσαι ανοιχτός και να έχεις περιέργεια. Ανοιχτός να γνωρίσεις κόσμο, κουλτούρες, να περιεργαστείς πράγματα. Αυτό είναι.

Κοίτα, θα έλεγα ότι είναι απαραίτητο να μπορεί να γράψει κώδικα και να μπορεί να δουλεύει με τεχνολογίες όπως η Python. Το δεύτερο είναι να έχει μια καλή γνώση των διαφόρων τεχνολογιών τεχνητής νοημοσύνης, από τις πιο απλές μέχρι τις πιο εξελιγμένες τεχνολογίες. Δυστυχώς είμαστε στην Ελλάδα που το πρόγραμμα σπουδών είναι πολύ αυστηρό. Aν ήμασταν στην Αμερική ή στην Αγγλία, θα έλεγα, να κάνει οπωσδήποτε ένα master σε κοινωνικές ή ανθρωπιστικές επιστήμες. H κοινωνιολογία και η ανθρωπολογία θα γίνονται πιο απαραίτητες, ως επιστήμες, αν θέλουμε να φτιάξουμε συστήματα που, όντως, να είναι αξιόπιστα. Θα έλεγα φύγετε από την Ελλάδα, για κάποια χρόνια τουλάχιστον. Δείτε άλλες κουλτούρες, άλλους οργανισμούς, άλλα πανεπιστήμια, άλλες δουλειές, γνωριστείτε με κόσμο. Είναι απαραίτητο. Νομίζω ότι μόνο καλό σου κάνει να φύγεις. Δεν είπα να φύγεις τελείως. Εγώ ξαναγύρισα στην Ελλάδα, είμαι τέτοιο παράδειγμα. Αλλά θεωρώ ότι είναι σημαντικό. 

Είστε και μία γενιά που έχει πρόσβαση σε άπειρο πλούτο γνώσης και πληροφορίας, είναι φοβερό. Εγώ όταν έκανα το διδακτορικό μου, έπρεπε να πηγαίνω στο πανεπιστήμιο για να έχω πρόσβαση σε ερευνητικές δημοσιεύσεις, ενώ τώρα κάθεσαι στο δωμάτιό σου και απλά μπαίνεις σε όποια βιβλιοθήκη θέλεις και βρίσκεις όποια δημοσίευση θέλεις. Επίσης, η τεχνολογία είναι στα χέρια σου και η ανταλλαγή γνώσης με κόσμο σε όλα τα μήκη και τα πλάτη της γης έχει γίνει πολύ πιο εύκολη. Θεωρώ ότι έχετε ένα μέλλον πάρα πολύ ενδιαφέρον μπροστά σας και για μένα η μεγαλύτερη δεξιότητα είναι να είσαι ανοιχτός και να έχεις περιέργεια. Ανοιχτός να γνωρίσεις κόσμο, κουλτούρες, να περιεργαστείς πράγματα. Αυτό είναι.

Γενικώς θεωρείτε ότι το “επιχειρείν” είναι κάτι που αφορά όλους ή είναι κάτι για το οποίο κάποιος θα πρέπει να έχει πολύ πάθος για να το κυνηγήσει.

O δρόμος δεν θα είναι καθόλου εύκολος, οι αλλαγές των συναισθημάτων θα είναι ακραίες, την μία μέρα θα νιώθεις βασιλιάς του κόσμου, την άλλη θα νιώθεις η μεγαλύτερη αποτυχία.

Λοιπόν, όταν ήρθε η κρίση το 2010 που εγώ επέστρεψα τότε από την Ολλανδία στην Ελλάδα, κάποιος μου είχε πει “το να επιχειρείς στην Ελλάδα είναι τρέλα το να μην επιχειρείς είναι ακόμα μεγαλύτερη τρέλα”. Οι δουλειές έκλειναν τότε και μέχρι τότε το όνειρο του μέσου Έλληνα ήταν να πάει στο δημόσιο, όχι να δημιουργήσει. Το δημόσιο δεν έπαιρνε κόσμο, οπότε το να επιχειρήσεις φαινόταν λίγο σαν μονόδρομος ειδικά σε εμάς στο κομμάτι της τεχνολογίας. Θα έλεγα ότι δεν είναι εύκολη επιλογή, είναι σκληρή. Πολλές φορές πρέπει να πάρεις αποφάσεις που δεν θέλεις να τις πάρεις ειδικά σε μικρές ομάδες που οι σχέσεις είναι πιο ανθρώπινες και λιγότερο επαγγελματικές. Εάν θέλεις η ομάδα σου να πάει μπροστά θα πρέπει να πάρεις σκληρές αποφάσεις, θα στενοχωρήσουν κόσμο θα στενοχωρήσουν και εσένα και θα είναι ψυχοφθόρο. Θα πρέπει να είσαι έτοιμος και για όλο το ρίσκο που υπάρχει αλλά θεωρώ ότι είναι κάτι που θα σου δώσει πάρα πολλά πράγματα πίσω και δεν μιλάω για τα λεφτά απαραίτητα. Εμένα μου έχει δώσει την ευκαιρία να γνωρίσω περισσότερο τον εαυτό μου και να δω πως αντιμετωπίζω δύσκολες καταστάσεις αλλά δεν είναι κάτι που θα έλεγα, ναι οπωσδήποτε επιχειρήστε, ανοίξετε ο καθένας μια εταιρία. Πρέπει να είσαι συνειδητοποιημένος, να ξέρεις ότι ο δρόμος δεν θα είναι καθόλου εύκολος, να ξέρεις ότι οι αλλαγές των συναισθημάτων θα είναι ακραίες, την μία μέρα θα νιώθεις βασιλιάς του κόσμου, την άλλη θα νιώθεις η μεγαλύτερη αποτυχία. Σίγουρα είναι ένα ταξίδι και μια επιλογή που μέχρι τώρα δεν έχω μετανιώσει.