Επιμέλεια: Γιάννα Μυράτ
Τα πράγματα ολοένα και χειροτερεύουν για την Cruise, την προβληματική εταιρεία ρομποταξί που κάποτε ονειρευόταν να είναι ηγέτης στον κλάδο της αυτόνομης οδήγησης. Μόνο ένα μήνα μετά μια βίαιη σύγκρουση που ανάγκασε την εταιρεία να καθηλώσει όλους τους στόλους της σε εθνικό επίπεδο, πολλά ειδησεογραφικά πρακτορεία ανέφεραν ότι τα «αυτοοδηγούμενα» οχήματα της εταιρείας στην πραγματικότητα… δεν είναι αυτόνομα, όλη την ώρα. Αντίθετα, τα οχήματα φαίνεται να βοηθούνται απομακρυσμένα από ανθρώπινους βοηθούς, τόσο συχνά, όσο κάθε περίπου 8 μέτρα.
Το Σαββατοκύριακο, οι New York Times δημοσίευσαν μια είδηση που ισχυριζόταν ότι τα οχήματα της Cruise υποστηρίζονταν από ένα «τεράστιο επιχειρησιακό προσωπικό» και ότι, πριν από τη «παύση» των εργασιών της εταιρείας, αυτό το προσωπικό έπρεπε συχνά να επέμβει για να «κάνει κάτι για τον απομακρυσμένο έλεγχο ενός αυτοκινήτου αφού λάμβανε ένα σήμα κινητής τηλεφωνίας ότι είχε προβλήματα». Η αναφορά των Times, αν και ενδιαφέρουσα, δεν παρείχε πολλές λεπτομέρειες σχετικά με το τι σήμαινε αυτό.
Μετά τη δημοσίευση, ωστόσο, ο Διευθύνων Σύμβουλος της Cruise, Kάιλ Βογκτ, μπήκε στην ενότητα σχολίων στο Hacker News και επιβεβαίωσε σε μεγάλο βαθμό πολλές από τις λεπτομέρειες του ρεπορτάζ. Συγκεκριμένα είπε: Τα AV της Cruise υποβοηθούνται εξ αποστάσεως στο 2-4% του χρόνου κατά μέσο όρο, σε πολύπλοκα αστικά περιβάλλοντα. Αυτό είναι ήδη αρκετά χαμηλό ώστε να μην υπάρχει τεράστιο όφελος κόστους για πολύ περαιτέρω βελτιστοποίηση.
Ενώ το 2-4% των περιπτώσεων μπορεί να μην ακούγεται πολύ, η εταιρεία αργότερα παρείχε πρόσθετες λεπτομέρειες στο CNBC, εξηγώντας ότι μια συνεδρία “απομακρυσμένης βοήθειας” συνήθως συμβαίνει κάθε τέσσερα έως πέντε μίλια (περίπου 8 μέτρα) για τα οχήματα της εταιρείας.
Μια εκπρόσωπος της Cruise, η Tίφανι Τέστο, έγραψε σε ένα email: «Συχνά το AV εκκινεί προληπτικά αυτό πριν βεβαιωθεί ότι θα χρειαστεί βοήθεια, όπως όταν παρεμποδίζεται η προβλεπόμενη διαδρομή του AV (π.χ. μπλοκαρίσματα ή παρακάμψεις κατασκευής) ή εάν χρειάζεται βοήθεια για την αναγνώριση ενός αντικειμένου», ανεφερε. «Η απομακρυσμένη βοήθεια βρίσκεται σε συνεδρία περίπου για το 2-4% του χρόνου που το AV είναι στο δρόμο, κάτι που είναι ελάχιστο, και σε αυτές τις περιπτώσεις ο εξ αποστάσεως σύμβουλος παρέχει πληροφορίες εύρεσης δρόμου στο AV, δεν το ελέγχει εξ αποστάσεως».
Από τους συμβούλους απομακρυσμένης βοήθειας (RA) , η Τέστο είπε ότι υπήρχε συνήθως ένας «για κάθε 15-20 AV χωρίς οδηγό». Και πρόσθεσε:
«Οι σύμβουλοι RA υποβάλλονται σε έλεγχο ιστορικού και έλεγχο αρχείων οδήγησης και πρέπει να ολοκληρώσουν δύο εβδομάδες ολοκληρωμένης εκπαίδευσης πριν από την έναρξη, η οποία αποτελείται από εκπαίδευση στην τάξη, ασκήσεις βάσει σεναρίων, ζωντανή παρακολούθηση και αξιολογήσεις βασισμένες στη γνώση. Οι σύμβουλοι λαμβάνουν επίσης συνεχή εκπαίδευση και υποβάλλονται σε συμπληρωματική εκπαίδευση όποτε υπάρχει μια νέα δυνατότητα ή ενημέρωση. Διενεργούνται τακτικές αναθεωρήσεις, ανανεώσεις και έλεγχοι για να διασφαλιστεί η υψηλή απόδοση».
Ενώ η διαφάνεια της εταιρείας εδώ είναι αξιοθαύμαστη, η ίδια η ύπαρξη αυτού του κέντρου επιχειρήσεων εμπνέει τόσα πολλά ερωτήματα. Πώς ακριβώς, παρεμβαίνουν αυτοί οι υπάλληλοι στις διαδρομές του οχήματος; Τι είδους έλεγχο έχει το τηλεχειριστήριο πάνω στο αυτοκίνητο; Τι είδους προφυλάξεις ψηφιακής ασφάλειας έχει εφαρμόσει (ή δεν έχει εφαρμόσει) η Cruise γύρω από το λογισμικό απομακρυσμένης πρόσβασης που επιτρέπει να συμβεί αυτό; Πόσο μεγάλη είναι η ομάδα απομακρυσμένης πρόσβασης; Το Gizmodo επικοινώνησε με την Cruise για περισσότερες πληροφορίες και αναμένονται απαντήσεις.
Πώς προέκυψαν οι ανησυχίες για τα αυτόνομα οχήματα της Cruise
Οι ανησυχίες για τα αυτόνομα οχήματα της Cruise ήρθαν στο επίκεντρο αυτό το μήνα. Στις 17 Οκτωβρίου, η Εθνική Διοίκηση Ασφάλειας Οδικής Κυκλοφορίας ( DMV) ανακοίνωσε ότι ερευνούσε τον στόλο σχεδόν 600 οχημάτων της Cruise λόγω κινδύνων που ενέχουν για άλλα αυτοκίνητα και πεζούς.
Μια εβδομάδα αργότερα, στο Σαν Φρανσίσκο, όπου τα αυτόνομα Cruise μεταφέρουν επιβάτες από το 2021, το Τμήμα Μηχανοκίνητων Οχημάτων της Καλιφόρνια ανακοίνωσε ότι ανέστειλε τις λειτουργίες της εταιρείας. Έπειτα από μια σειρά από δυσλειτουργίες και δημόσια ατυχήματα, η άμεση αιτία της εντολής, είπε η DMV, ήταν ότι η Cruise απέκρυψε βίντεο από ένα πρόσφατο περιστατικό στο οποίο ένα από τα οχήματά της χτύπησε μια πεζή, σέρνοντάς την 6 μέτρα στο δρόμο.
Αν και οι εταιρείες αυτοοδηγούμενων απολαμβάνουν τη φήμη στη Silicon Valley ως φορείς μιας τεχνο-αισιόδοξης ουτοπίας μετακίνησης – έναν κόσμο “έξυπνων αυτοκινήτων” που δεν οδηγούν ποτέ μεθυσμένοι, κουρασμένοι ή αποσπασμένοι – τα εσωτερικά υλικά που είδε το The Intercept αποκαλύπτουν μια ένταση μεταξύ μιας σειράς μηχανικών προβλημάτων, και την προσπάθεια να παραδοθεί το μέλλον όσο το δυνατόν γρηγορότερα. Με τη μητρική της εταιρεία General Motors, η οποία αγόρασε την Cruise το 2016 για 1,1 δισεκατομμύρια δολάρια, αιμορραγώντας από χρήματα για το εγχείρημα, οποιαδήποτε οπισθοδρόμηση για το καθεστώς ρομπο-ασφάλειας της εταιρείας θα μπορούσε να απειλήσει την επιχείρησή της.
Αντί να βλέπει τα δημόσια ατυχήματα και τις εσωτερικές ανησυχίες ως κίτρινες κάρτες, η Cruise προχώρησε με το επιχειρηματικό της σχέδιο. Πριν από την κρίση αδειοδότησης στην Καλιφόρνια, η εταιρεία, σύμφωνα με το Bloomberg, διερευνούσε την επέκταση σε 11 νέες πόλεις.
«Αυτά δεν είναι αυτοοδηγούμενα αυτοκίνητα», είπε ο Mπράιαντ Γουόκερ Σμιθ, καθηγητής νομικής και μηχανικός στο Πανεπιστήμιο της Νότιας Καρολίνας που μελετά την αυτοματοποιημένη οδήγηση. «Αυτά είναι αυτοκίνητα που οδηγούνται από τις εταιρείες τους».
«Δεν αναγνωρίζουν παιδιά»
Πριν από αρκετούς μήνες, ένα 4χρονο κορίτσι είχε σκοτωθεί στο Σαν Φρανσίσκο. Μια 71χρονη γυναίκα είχε στρίψει δεξιά, όπως οι κάτοικοι της περιοχής περιέγραψαν, χτυπώντας ένα καρότσι και σκοτώνοντας το παιδί.
Σύμφωνα με τα δημοσιεύματα, ένα από τα προβλήματα που αντιμετωπίζει η εταιρεία στο θέμα αξιολόγησης ασφάλειας, είναι η αστοχία των αυτόνομων οχημάτων της Cruise, υπό ορισμένες προϋποθέσεις, όπως να εντοπίζει αποτελεσματικά τα παιδιά, ώστε να μπορούν να είναι ιδιαίτερα προσεκτικά. «Τα Cruise ενδέχεται να μην ασκούν πρόσθετη προσοχή στα παιδιά», αναφέρει μια εσωτερική αξιολόγηση ασφάλειας. Τα ρομποτικά αυτοκίνητα της εταιρείας, εξακολουθούν να «χρειάζονται την ικανότητα να ξεχωρίζουν τα παιδιά από τους ενήλικες, ώστε να μπορούμε να επιδεικνύουμε πρόσθετη προσοχή στα παιδιά», αναφέρει η εταιρεία.
Τα εσωτερικά υλικά αποδίδουν την αδυναμία των αυτοκινήτων ρομπότ να αναγνωρίσουν αξιόπιστα τα παιδιά υπό ορισμένες συνθήκες σε ανεπαρκές λογισμικό και δοκιμές. «Έχουμε χαμηλή έκθεση για τους μικρούς ευάλωτους χρήστες του δρόμου», τα Small VRU όπως περιγράφονται τα παιδιά. «Έτσι είναι πολύ λίγα τα συμβάντα για να εκτιμήσουμε τον κίνδυνο», λένε τα υλικά.
Μια άλλη ενότητα παραδέχεται ότι στα οχήματα της Cruise «λείπει ένας ταξινομητής Small VRU υψηλής ακρίβειας» ή λογισμικό μηχανικής εκμάθησης που θα ανιχνεύει αυτόματα αντικείμενα σε σχήμα παιδιού γύρω από το αυτοκίνητο και θα ελίσσεται ανάλογα. Τα υλικά λένε ότι η Cruise, σε μια προσπάθεια να αντισταθμίσει τις ελλείψεις της μηχανικής μάθησης, βασιζόταν σε ανθρώπινους εργάτες στα παρασκήνια για να αναγνωρίσει με μη αυτόματο τρόπο παιδιά που θα συναντούσαν ένα αυτόνομο όχημα, και το λογισμικό της δεν μπορούσε να το κάνει αυτόματα.
Με πληροφορίες από Gizmodo, NYT & The Interceprt
