Declinare de responsabilitate: Construiesc nanonets.com pentru a ajuta la crearea ML cu mai putine date
Cred ca AI este asemanator cu construirea unei nave rachete. Ai nevoie de un motor imens si de mult combustibil. Daca aveti un motor mare si o cantitate mica de combustibil, nu veti ajunge pe orbita. Daca aveti un motor mic si o tona de combustibil, nici macar nu va puteti ridica. Pentru a construi o racheta aveti nevoie de un motor imens si de mult combustibil.
Analogia cu invatarea profunda este ca motorul rachete este modelele de invatare profunda, iar combustibilul reprezinta cantitatile uriase de date pe care le putem furniza acestor algoritmi. – Andrew Ng
S-a inregistrat o crestere recenta a popularitatii invatarii profunde, realizand performante de ultima generatie in diferite sarcini, cum ar fi Traducerea limbii, jocurile de strategie si autoturismele care necesita milioane de puncte de date. O bariera comuna pentru utilizarea invatarii profunde pentru rezolvarea problemelor este cantitatea de date necesara pentru a instrui un model. Cerinta de date mari apare din cauza numarului mare de parametri din modelul pe care masinile trebuie sa-l invete.
Cateva exemple de numar de parametri din aceste modele recente sunt:
Detalii despre modelele Deep Learning
Invatarea profunda nu este altceva decat retele neuronale mari, ele pot fi gandite ca o diagrama de flux in care datele intra dintr-o parte si inferenta / cunostintele ies din cealalta. Puteti, de asemenea, sa rupeti reteaua neuronala, sa o separati si sa scoateti inferenta de oriunde doriti. S-ar putea sa nu obtineti nimic semnificativ, dar il puteti face, de exemplu, Google DeepDream
Exista o relatie aproape liniara interesanta in cantitatea de date necesara si dimensiunea modelului. Rationamentul de baza este ca modelul dvs. ar trebui sa fie suficient de mare pentru a capta relatii in datele dvs. (de exemplu, texturi si forme in imagini, gramatica in text si foneme in vorbire), impreuna cu specificul problemei dvs. (de exemplu, numarul categoriilor). Straturile timpurii ale modelului surprind relatii la nivel inalt intre diferitele parti ale intrarii (cum ar fi marginile si modelele). Straturile ulterioare capteaza informatii care ajuta la luarea deciziei finale; de obicei informatii care pot ajuta la discriminarea rezultatelor dorite. Prin urmare, daca complexitatea problemei este ridicata (cum ar fi Clasificarea imaginilor), numarul parametrilor si cantitatea de date necesare sunt, de asemenea, foarte mari.
Ce vede AlexNet la fiecare pas
Cand lucrati la o problema specifica domeniului dvs., adesea cantitatea de date necesara pentru a construi modele de aceasta dimensiune este imposibil de gasit.
putasfollando sexo gratis videos
hombres pajeandose comiendo tetas
jovencitasxxx maduras comiendose el coño
cachondas españolas monjas folladoras
jovencitos desnudos enanas tetonas
xxxjovenes sexo videos caseros
xxxabuelas porno hat
cine para adultos gratis padre enseña a follar a su hija
maduras españolas sexo travestis jovencitas
hombres masturbando a mujeres vidio xxxx
videos mamadas orgasmos extremos
se corre en el coño de su madre me corro sin avisar
mamadas españolas trio en la playa
todoporno cincuentona española follando
coñitos heidi porno
chochitos jovenes desvirga a su hermana
pornoxxxxx colegialas anal
folladas extremas trio casero español
incestos madres hijos porno amas de casa
videos xxx gratis español follando despues de la fiesta
Cu toate acestea, modelele instruite pe o sarcina capteaza relatii in tipul de date si pot fi usor reutilizate pentru diferite probleme din acelasi domeniu. Aceasta tehnica este denumita Transfer Learning.
Qiang Yang, Sinno Jialin Pan, „A Survey on Transfer Learning”, IEEE Transactions on Knowledge & Data Engineering , vol. 22, nr. , pp. 1345–1359, octombrie 2010, doi: 10.1109 / TKDE.2009.191
Transferul de invatare este ca secretul cel mai bine pastrat pe care nimeni nu incearca sa il pastreze. Toata lumea din industrie stie despre asta, dar nimeni din afara nu stie.
Google Trends Machine Learning vs Deep Learning vs Transfer Learning
Referindu-ne la Awesome – Cele mai citate lucrari de invatare profunda pentru lucrarile de top din invatarea profunda, mai mult de 50% din lucrari utilizeaza o forma de invatare prin transfer sau de pregatire preliminara. Transferul de invatare devine din ce in ce mai aplicabil pentru persoanele cu resurse limitate (date si calcul), din pacate ideea nu a fost socializata suficient de bine asa cum ar trebui. Oamenii care au cel mai mult nevoie de el nu stiu inca despre asta.
Daca invatarea profunda este sfantul graal si datele sunt pazitorul portii, invatarea prin transfer este cheia.
Cu transferul de invatare, putem lua un model pre-antrenat, care a fost instruit pe un set de date mare usor disponibil (instruit pentru o sarcina complet diferita, cu aceeasi intrare, dar rezultat diferit). Apoi incercati sa gasiti straturi care genereaza caracteristici reutilizabile. Folosim iesirea acelui strat ca caracteristici de intrare pentru a antrena o retea mult mai mica, care necesita un numar mai mic de parametri. Aceasta retea mai mica trebuie doar sa invete relatiile pentru problema dvs. specifica, afland deja despre tiparele din datele din modelul predeterminat. In acest fel, un model instruit pentru a detecta pisicile poate fi reutilizat pentru a reproduce opera lui Van Gogh
Un alt avantaj major al utilizarii invatarii prin transfer este cat de bine generalizeaza modelul. Modelele mai mari tind sa depaseasca datele (adica sa modeleze datele mai mult decat fenomenul de baza) si nu functioneaza la fel de bine atunci cand le testati pe date nevazute. Deoarece invatarea prin transfer permite modelului sa vada mai bine diferitele tipuri de date ale invatarii, regulile fundamentale ale lumii.
Ganditi-va la overfitting ca memorare, spre deosebire de invatare. – James Faghmous
Sa presupunem ca doriti sa incheiati dezbaterea rochiei albastre si negre fata de rochia alba si aurie. Incepeti sa colectionati imagini cu rochii negre albastre verificate si rochii din aur alb. Pentru a construi un model precis pe cont propriu, precum cel mentionat mai sus (cu 140 de parametri !!), pentru a instrui acest model va trebui sa gasiti 1,2 milioane de imagini, ceea ce este o sarcina imposibila. Deci, dati transferului invatarii o lovitura.
Calculul numarului de parametri necesari pentru instruirea pentru aceasta problema utilizand invatarea prin transfer:
Numar de parametri = [Dimensiune (intrari) + 1] * [Dimensiune (iesiri) + 1]
= [2048 + 1] * [1 + 1] ~ 4098 parametri
Vedem o reducere a numarului de parametri de la 1,4 * 10⁸ la 4 * 10³, care este de 5 ordine de marime. Deci, ar trebui sa fim bine colectand mai putin de o suta de imagini cu rochii. Phew!
Daca esti nerabdator si abia astepti sa afli culoarea reala a rochiei, deruleaza in jos si vezi cum sa construiesti singur modelul pentru rochii.
