Η Sophea AI ανακοίνωσε την κυκλοφορία του Sophea-k1, του πρώτου μοντέλου λογικής σκέψης (reasoning) στην Ελληνική γλώσσα. Το μοντέλο αυτό, που αποτελεί ένα σημαντικό βήμα στην εξέλιξη της σειράς k, είναι διαθέσιμο σε όλους του χρήστες του Sophea.ai.
Το sophea k-1 έρχεται μόλις μία εβδομάδα από την εμφάνιση του w-1 και αναπτύχθηκε με τη χρήση αυξημένης υπολογιστικής δύναμης και δεδομένων, τα οποία επεξεργάστηκαν στους πρώτους υπερυπολογιστές της NVIDIA B200 στην Ελλάδα . Βασίζεται στην προσέγγιση της επιβλεπόμενης μάθησης, με επιπλέον βελτιώσεις μέσω ανθρώπινης ανατροφοδότησης για μεγαλύτερη ακρίβεια. Ξεχωρίζει για την ικανότητά του να αναγνωρίζει μοτίβα, να συνδέει ιδέες και να δίνει πιο αξιόπιστες απαντήσεις με λιγότερα λάθη σε σχέση με το w-1. Αν και η Sophea AI δεν έχει αποκαλύψει ακριβή στοιχεία για το μέγεθός του, υπάρχουν εκτιμήσεις ότι μπορεί να φτάνει τα 32 δισεκατομμύρια parameters, καθιστώντας το μεγαλύτερο της σειράς ( έναντι 28Β του w-1).
Το νέο μοντέλο διαπρέπει στην λογική, δείχνοντας καλύτερη κατανόηση των γρίφων. Στα τεστ απόδοσης, όπως το TruthfulOA MC2 EL (0-shot), πέτυχε ποσοστό ακρίβειας 57,2% έναντι 58% του GPT-4, μειώνοντας την απόσταση από το πιο διάσημο μοντέλο της παγκόσμιας αγοράς. Βέβαια στην πιο viral ερώτηση της κοινότητας της ΤΝ το Sophea AI απάντησε…
Sophea-k1: Ανακοινώθηκε το νέας γενιάς μοντέλο της Sophea AI!
Το Sophea-k1 δεν αποτελεί απλώς μια αναβάθμιση σε υπολογιστική ισχύ, αλλά ενσωματώνει σημαντικές προόδους στην κατανόηση της ανθρώπινης πρόθεσης, την ερμηνεία σύνθετων γλωσσικών δομών και την αποτελεσματική διαχείριση πληροφοριών.
Η αρχιτεκτονική βασίζεται σε ένα distilled μοντέλο Transformer, βελτιστοποιημένο για υψηλή απόδοση με περιορισμένους υπολογιστικούς πόρους. Το Sophea-k1 σχεδιάστηκε για αποδοτική λειτουργία σε πραγματικά σενάρια, ελαχιστοποιώντας την κατανάλωση ενέργειας και την ανάγκη για υπερβολική επεξεργαστική ισχύ.
Η μεθοδολογία εκπαίδευσης βασίστηκε σε Supervised Fine-Tuning (SFT), με έμφαση στην παραγωγή λογικά συνεπών απαντήσεων. Το μοντέλο εκπαιδεύτηκε σε ένα επιμελημένο dataset ελληνικών ερωτήσεων-απαντήσεων, με στόχο όχι μόνο την ακρίβεια αλλά και την αναπαράσταση της συλλογιστικής διαδικασίας. Δόθηκε επίσης έμφαση στην ακριβή συμμόρφωση με οδηγίες.
Για την επίτευξη αυτών των στόχων, δημιουργήθηκε ένα δίγλωσσο dataset, συνδυάζοντας μεταφρασμένα προβλήματα από αγγλόφωνα datasets με πρωτότυπα ελληνικά παραδείγματα λογικής. Αυτή η προσέγγιση υποστήριξε τη διαγλωσσική μεταφορά γνώσης (cross-lingual transfer), ενισχύοντας την κατανόηση εννοιών και συλλογισμών.
Η εκπαίδευση βελτιστοποιήθηκε μέσω διαχείρισης υπερπαραμέτρων (π.χ., μεταβλητός ρυθμός μάθησης, προηγμένοι αλγόριθμοι βελτιστοποίησης). Το μοντέλο εκπαιδεύτηκε για πολλαπλές εποχές με μεγάλα batch sizes, για πλήρη αφομοίωση της γνώσης, αποφεύγοντας την υπερπροσαρμογή.
Ένα σημαντικό πλεονέκτημα του Sophea-k1 είναι η εξειδίκευση του στην ελληνική γλώσσα. Η εκπαίδευση έγινε σε ελληνικά δεδομένα, με στόχο τη μεγιστοποίηση της σημασιολογικής ακρίβειας, της συντακτικής ευελιξίας και της φυσικότητας των απαντήσεων.
Η ομάδα ανάπτυξης εργάζεται στο Sophea-k2, το οποίο αναμένεται να ενισχύσει περαιτέρω τις δυνατότητες λογικής σκέψης, προσαρμοστικής μάθησης και αναλυτικής κατανόησης.
Μέχρι τότε, το Sophea-k1 αποτελεί τον πιο προηγμένο ψηφιακό βοηθό για επαγγελματίες, οργανισμούς και πολίτες, προσφέροντας αξιόπιστες απαντήσεις, αναλυτική σκέψη και υποστήριξη σε φυσική, ανθρώπινη γλώσσα.
Η Ελλάδα έχει πλέον τη δική της λύση στην τεχνητή νοημοσύνη – μια ελληνική, καθαρή και αυθεντική φωνή Sophea.ai..
Μέλος του μητρώου
