Aggelos@Dritsas.gr
ΕΠΙΚΑΙΡΟΤΗΤΑΤΕΧΝΟΛΟΓΙΑ

Οι ερευνητές της Apple περιγράφουν λεπτομερώς έναν νέο τρόπο εκτέλεσης της AI σε συσκευές όπως το iPhone

Η ανακάλυψη θα μπορούσε να διευκολύνει την Apple να φέρει μια λειτουργία τύπου GPT στο iPhone.

Οι ερευνητές AI της Apple λένε ότι έκαναν μια τεράστια ανακάλυψη στην προσπάθειά τους να αναπτύξουν μεγάλα γλωσσικά μοντέλα (LLM) σε συσκευές της Apple όπως το iPhone χωρίς να χρησιμοποιούν τόνους μνήμης. Οι ερευνητές αντ’ αυτού φέρνουν τα LLMs στη συσκευή χρησιμοποιώντας μια νέα τεχνική μνήμης flash, αναφέρει το MacRumors.

Σε ένα ερευνητικό έγγραφο με τίτλο “LLM in a Flash: Efficient Large Language Model Inference with Limited Memory,” οι ερευνητές σημειώνουν ότι στον κόσμο των κινητών τηλεφώνων, η αποθήκευση flash είναι πιο διαδεδομένη από τη μνήμη RAM που χρησιμοποιείται παραδοσιακά για την εκτέλεση των LLMs. Η μέθοδός τους λειτουργεί με τη χρήση του windowing, δηλαδή την επαναχρησιμοποίηση κάποιων δεδομένων που έχουν υποστεί επεξεργασία για να μειωθεί η ανάγκη για συνεχή ανάκληση μνήμης, και με τη δέσμη γραμμών-στηλών, η οποία περιλαμβάνει την ομαδοποίηση των δεδομένων ώστε να μπορούν να διαβαστούν ταχύτερα από τη μνήμη flash.

Σύμφωνα με το έγγραφο, η μέθοδος αυτή επιτρέπει στα μοντέλα τεχνητής νοημοσύνης να εκτελούνται σε διπλάσιο μέγεθος από τη διαθέσιμη μνήμη στο iPhone, κάτι που οι ερευνητές υποστηρίζουν ότι είναι 4-5 φορές ταχύτερο από ό,τι στους τυπικούς επεξεργαστές (CPUs) και 20-25 φορές στους επεξεργαστές γραφικών (GPUs).

Οι ερευνητές σημειώνουν: “Αυτή η ανακάλυψη είναι ιδιαίτερα κρίσιμη για την ανάπτυξη προηγμένων LLMs σε περιβάλλοντα περιορισμένων πόρων, επεκτείνοντας έτσι την εφαρμοσιμότητα και την προσβασιμότητά τους. Πιστεύουμε ότι καθώς οι LLMs συνεχίζουν να αυξάνονται σε μέγεθος και πολυπλοκότητα, προσεγγίσεις όπως αυτή η εργασία θα είναι απαραίτητες για την αξιοποίηση του πλήρους δυναμικού τους σε ένα ευρύ φάσμα συσκευών και εφαρμογών”.

Το επίτευγμα ανοίγει δυνατότητες για την τεχνητή νοημοσύνη στο iPhone. Η Apple φημολογείται ότι στοχεύει να συμπεριλάβει κάποια μορφή AI στο iPhone στα τέλη του 2024. Τα τελευταία χρόνια η εταιρεία έχει εξαγοράσει αρκετές εταιρείες AI για να δημιουργήσει το δικό της προϊόν τεχνητής νοημοσύνης.

Κατά τη διάρκεια της κλήσης κερδών της εταιρείας τον Μάιο, ο διευθύνων σύμβουλος της Apple, Tim Cook, δήλωσε ότι η εταιρεία σχεδιάζει να ακολουθήσει μια αργή, “προσεκτική” προσέγγιση για τη δημιουργία προϊόντων AI.

ΔΙΑΒΑΣΤΕ ΕΔΩ

Ν.Δ : Παύλος Μαρινάκης – Συνέντευξη Τύπου στο Ναύπλιο ΒΙΝΤΕΟ ΡΕΠΟΡΤΑΖ

AGGELOS DRITSAS

Μητρόπολη Αργολίδας: Αναγγελία εκδημίας Πρεσβυτέρου – Μ. Οικονόμου Δημητρίου Μπεκιάρη

AGGELOS DRITSAS

Ευρωεκλογές 2024: Πόσους σταυρούς βάζουμε στο ψηφοδέλτιο;

AGGELOS DRITSAS

Θεία Λειτουργία στην Ιερά Μονή Παναγίας Παντανάσσης.

AGGELOS DRITSAS

Εξαρθρώθηκε εγκληματική συμμορία στην Αργολίδα που διακινούσε ναρκωτικά

AGGELOS DRITSAS

ΒΙΝΤΕΟ ΤΟΥ ΑΓΓΕΛΟΥ ΔΡΙΤΣΑ ΓΙΑ ΤΗΝ ΗΜΕΡΑ ΤΗΣ ΓΥΝΑΙΚΑΣ ( Γιώργος Σαμπάνης – Μόνο Εσύ )

AGGELOS DRITSAS

100 χρόνια Τεχνικό Επιμελητήριο Ελλάδος με κεντρικό μήνυμα

AGGELOS DRITSAS

Aγώνας, που διοργανώθηκε από τον Σύλλογο «Μαραθωνοδρόμοι Δρομείς Αργολίδας» (

AGGELOS DRITSAS

Με μεγάλη επιτυχία διεξήχθη εχθές στα πλαίσια του Πόρτο Χελιωτικου καρναβαλιού ο Χρώματοπολεμος

AGGELOS DRITSAS

Διάσταση απόψεων για το τρένο στην Πελοπόννησο-Σε θολό τοπίο οι συζητήσεις

AGGELOS DRITSAS

Ο Ποσειδώνας ήρθε και φέτος να ταράξει τα ήρεμα νερά του Αναπλιού και η Ναυτική Εικαστική Ναυπλιάδα 2024

AGGELOS DRITSAS

ΒΙΝΤΕΟ ΡΕΠΟΡΤΑΖ: Αυτοψία του Βασίλη Σιδέρη στο έργο αποκατάστασης του δρόμου Αγίας – Ελεούσας – Λευκακίων

AGGELOS DRITSAS