BackPropagation (Οπισθοδιάδοση) και Leibniz

Συντονιστής: spyros

Άβαταρ μέλους
mick7
Δημοσιεύσεις: 1314
Εγγραφή: Παρ Δεκ 25, 2015 4:49 am

BackPropagation (Οπισθοδιάδοση) και Leibniz

#1

Μη αναγνωσμένη δημοσίευση από mick7 » Σάβ Δεκ 07, 2024 6:46 pm

Ο Geoffrey Hinton εφηύρε τον αλγόριθμο της οπισθοδιάδοσης; Όχι ακριβώς. Παρόλο που ο Hinton έπαιξε καθοριστικό ρόλο στην προώθηση της χρήσης του στις νευρωνικές δικτυώσεις τη δεκαετία του 1980, ο ίδιος ο αλγόριθμος προϋπήρχε κατά δεκαετίες—και το μαθηματικό του θεμέλιο ανάγεται αιώνες πίσω.

Μηχανικοί της δεκαετίας του 1960, ιδιαίτερα στον τομέα των ηλεκτρικών συστημάτων, όπως αυτά που χρησιμοποιούνται στα δίκτυα ηλεκτροδότησης, ήδη εφάρμοζαν μεθόδους παρόμοιες με την οπισθοδιάδοση για σκοπούς βελτιστοποίησης. Αυτοί οι "τεχνικοί δικτύων" εφάρμοζαν τις αρχές της προσαρμογής βαρών για τη βελτίωση της απόδοσης των συστημάτων, αποδεικνύοντας ότι οι πρακτικές εφαρμογές της οπισθοδιάδοσης υπήρχαν πολύ πριν την εμφάνισή της στην τεχνητή νοημοσύνη.

Ωστόσο, η πραγματική προέλευση του βασικού μηχανισμού της οπισθοδιάδοσης βρίσκεται στον κανόνα της αλυσίδας, ο οποίος τυποποιήθηκε από τον Γκότφριντ Βίλχελμ Λάιμπνιτς στα τέλη του 17ου αιώνα. Το έργο του έθεσε τα θεμέλια για τον υπολογισμό παραγώγων σε σύνθετες συναρτήσεις—μια αρχή που αποτελεί την καρδιά της οπισθοδιάδοσης.

Έτσι, η πραγματική γενεαλογία της εκτείνεται αιώνες πίσω: από τον Λάιμπνιτς και τον λογισμό μέχρι τους μηχανικούς του μεσο-20ού αιώνα, και τελικά στα σύγχρονα νευρωνικά δίκτυα.

https://el.wikipedia.org/wiki/%CE%9F%CF ... F%83%CE%B7

Εικόνα



Λέξεις Κλειδιά:
katebishop
Δημοσιεύσεις: 6
Εγγραφή: Τρί Αύγ 20, 2024 11:26 am

Re: BackPropagation (Οπισθοδιάδοση) και Leibniz

#2

Μη αναγνωσμένη δημοσίευση από katebishop » Τετ Δεκ 18, 2024 5:40 am

Δεν είχα ιδέα ότι η προέλευση της οπισθοδιάδοσης μπορούσε να εντοπιστεί τόσο πολύ πίσω στη δουλειά του Leibniz και των μηχανικών στη δεκαετία του 1960. Είναι μια υπενθύμιση του πόσες τεχνολογικές προόδους χτίζονται σε αιώνες συσσωρευμένης γνώσης και πειραματισμού.
Block Blast


Απάντηση

Επιστροφή σε “Γενικά Μηνύματα”

Μέλη σε σύνδεση

Μέλη σε αυτήν τη Δ. Συζήτηση: MSN [Bot] και 5 επισκέπτες