Ако сте се икада запитали како машина може да препозна ваше лице или да разуме шта говорите, одговор лежи у фасцинацији људским мозгом. Ове биолошке структуре, састављене од међусобно повезани неурони који преносе електричне сигналеОни су послужили као план за стварање онога што данас познајемо као вештачке неуронске мреже, које су у основи алгоритми дизајнирани за решавање сложених математичких загонетки.
У данашњем свету смо се навикли да је вештачка интелигенција синоним за суперрачунаре и огромну потрошњу енергије. Међутим, појављује се веома занимљив тренд који тежи да... оптимизовати енергетску ефикасностпостављајући питање да ли заиста треба да обрадимо милионе множења да бисмо добили једноставан одговор, имитирајући тако енергетску трезвеност сопственог мозга.
Класична архитектура: од перцептрона до дубоког учења
Да бисмо разумели куда идемо, морамо знати одакле смо дошли. Основна неуронска мрежа је обично организована у три нивоа. Све почиње на улазни слојОвде систем прима податке споља, анализира их и шаље даље. Затим долази скривени слојевишто може бити један или десетине њих; ту се одвија права обрада, усавршавајући информације у свакој фази.
Коначно, стигли смо до излазни слојшто нам даје коначну пресуду. У зависности од тога шта тражимо, можемо имати један чвор за одговор да или не (бинарна класификација) или неколико чворова ако је проблем сложенији и захтева избор између више категорија.
Када причамо Дубоко учењеМислимо на мреже са много скривених слојева и милионима веза. У овом моделу, однос између неурона је дефинисан помоћу нумеричка вредност названа тежинаПроблем је што су ове мреже потрошачи података и енергије, захтевајући милионе примера да би се избегле грешке.
Срж тренинга: Ширење унапред и уназад
Да би мрежа учила, прво мора покушати да погоди. Процес Форвард Пропагатион У основи је то путовање слева надесно: подаци улазе, множе се са тежинама, додаје се подешавање које се назива пристрасност и пролази кроз функцију активације (као што је Сигмоид или РеЛу) да би се одлучило да ли се неурон „активира“ или не.
Али пошто мрежа на почетку не зна ништа, доживеће спектакуларан пропаст. Ту се Пропагација уназадту се дешава магија. Алгоритам сада путује здесна налево, израчунавајући грешку између добијеног резултата и стварног резултата. Користећи математички дериватиМрежа подешава тежине како би минимизирала ту грешку у следећој итерацији.
Кључни детаљ у овом процесу је стопа учењаАко је превисок, мрежа брзо учи, али је нетачна; ако је пренизак, процес постаје бесконачан. Крајњи циљ је достићи глобални минимум функције трошкова, омогућавајући мрежи да правилно генерализује информације.
Револуција бестежинских неуронских мрежа
Ту ствари постају узбудљиве. Професорка Лизи К. Џон и њен тим разбијају калуп предлажући бестежинске неуронске мрежеДок се конвенционална вештачка интелигенција ослања на извођење милијарди множења (веома скупа операција за хардвер), овај приступ користи међусобно повезане табеле претраживања.
Уместо израчунавања сложене аритметичке операције, мрежа једноставно консултује сачувани одговор заснован на бинарним улазима. То је систем који је много сличнији начину на који људи размишљају: не множимо бројеве у глави да бисмо одлучили да ли да идемо лево или десно, већ обрађујемо сигнале активације.
Резултати су једноставно запањујући. У задацима као што су медицинско праћење (ЕКГ или ЕЕГ) или препознавање кључних речи, ове мреже могу бити хиљаду пута мањи и ефикаснијиЗамислите прелазак са модела од 17 мегабајта на онај од само 14 килобајта. Ово омогућава вештачкој интелигенцији да живи директно унутар сензора путем Едге Цомпутинг без потребе за слањем података у облак, што је такође Поента у корист приватности корисник.
Ка одрживој и лаганој вештачкој интелигенцији
Није све у губитку тежине; постоји и тренд... лагане неуронске мрежеОне су дизајниране да троше што је могуће мање енергије и меморије, користећи технике као што су ретко вежбање или орезивањекоји се састоји у елиминисању веза које не доприносе ништа коначном резултату.
Овај приступ је од виталног значаја у секторима као што су управљање енергијом у зградама или хлађење дата центара, где оптимизација потрошње може значити уштеда енергије до 30%Циљ је јасан: да вештачка интелигенција не буде климатски проблем, већ део решења, омогућавајући јефтине уређаје, као што су... ARM Cortex микроконтролери, обављају интелигентне задатке у реалном времену.
Од трансформатора који покрећу модерне четботове до конволуционих неуронских мрежа (CNN) фокусираних на слику, пут до ефикасности води кроз смањити рачунску сложеностСкок од класичног перцептрона до генеративне вештачке интелигенције био је огроман у погледу података и снаге, али права предност сада тежи да уради више са много мање.
Прелазак са густих архитектура које захтевају много множења на системе засноване на бинарном претраживању и скраћеним моделима омогућава вештачкој интелигенцији да буде одржива на малим уређајима. Интеграцијом енергетске ефикасности и математичког поједностављења, обрада података постаје драматично бржа и одрживија, отварајући пут локалном, приватном рачунарству које се више не ослања на масивне графичке процесоре да би правилно функционисало.
