Как крайният анализ ще стимулира по-интелигентните изчисления

Много случаи на използване на анализи и машинно обучение се свързват с данни, съхранявани в складове за данни или езера на данни, изпълняват алгоритми на пълни набори от данни или подмножество от данни и изчисляват резултати в облачни архитектури. Този подход работи добре, когато данните не се променят често. Но какво, ако данните се променят често?

Днес повече бизнеси трябва да обработват данни и да изчисляват анализи в реално време. IoT задвижва голяма част от тази промяна на парадигмата, тъй като поточното предаване на данни от сензори изисква незабавна обработка и анализ за управление на системи надолу по веригата. Анализът в реално време е важен и в много индустрии, включително здравеопазване, финансови услуги, производство и реклама, където малките промени в данните могат да окажат значително финансово, здравословно, безопасно и друго въздействие върху бизнеса.

Ако се интересувате от активиране на анализи в реално време - и от нововъзникващите технологии, които използват комбинация от крайни изчисления, AR / VR, IoT сензори в мащаб и машинно обучение в мащаб - тогава разбирането на съображенията за дизайн на крайния анализ е важно. Примери за крайни изчисления като автономни безпилотни летателни апарати, интелигентни градове, управление на търговски вериги и мрежи за игри с разширена реалност са насочени към внедряване на широкомащабен, високо надежден анализ на крайните точки.

Edge анализ, стрийминг анализ и крайни изчисления

Няколко различни парадигми за анализ, машинно обучение и крайни изчисления са свързани с крайния анализ:

  • Edge analytics се отнася до анализи и алгоритми за машинно обучение, внедрени в инфраструктура извън облачната инфраструктура и „на ръба“ в географски локализирана инфраструктура.
  • Потоковата аналитика се отнася до изчислителна аналитика в реално време, докато данните се обработват. Анализът на поточно предаване може да се извършва в облака или на ръба, в зависимост от случая на употреба.
  • Обработката на събития е начин за обработка на данни и управление на решения в реално време. Тази обработка е подмножество на поточен анализ и разработчиците използват управлявани от събития архитектури за идентифициране на събития и задействане на действия надолу по веригата.
  • Edge изчисленията се отнасят до внедряване на изчисления към крайни устройства и мрежова инфраструктура.
  • Изчисляването на мъгла е по-обобщена архитектура, която разделя изчисленията между средата на ръба, близо до ръба и облачните изчисления.

Когато проектират решения, изискващи краен анализ, архитектите трябва да вземат предвид физическите и енергийните ограничения, мрежовите разходи и надеждност, съображенията за сигурност и изискванията за обработка.  

Причини за внедряване на анализи на ръба

Може да попитате защо бихте внедрили инфраструктура до ръба за анализи? Има технически съображения, съображения за разходи и съответствие, които вземат предвид тези решения.

Приложенията, които оказват влияние върху човешката безопасност и изискват устойчивост в изчислителната архитектура, са един от случаите на използване на крайния анализ. Приложенията, които изискват ниска латентност между източници на данни, като IoT сензори и изчислителна инфраструктура за анализ, са втори случай на употреба, който често изисква краен анализ. Примерите за тези случаи на употреба включват: 

  • Самоуправляващи се автомобили, автоматизирани машини или всякакъв транспорт, при който системите за управление автоматизират цялата или части от навигацията.
  • Интелигентни сгради, които имат контрол на сигурността в реално време и искат да избегнат зависимост от мрежова и облачна инфраструктура, за да позволят на хората безопасно да влизат и излизат от сградата.
  • Умни градове, които проследяват обществения транспорт, внедряват интелигентни измервателни уреди за таксуване на комунални услуги и интелигентни решения за управление на отпадъците. 

Съображенията за разходите са важен фактор при използването на крайния анализ в производствените системи. Помислете за набор от камери, които сканират произведените продукти за дефекти по време на бързо движещи се конвейрни ленти. Може да бъде по-рентабилно да се внедрят крайни изчислителни устройства във фабриката, за да се извърши обработката на изображения, вместо да се инсталират високоскоростни мрежи за предаване на видео изображения в облака.

Говорих с Ахал Прабхакар, вицепрезидент по инженерство в Landing AI, индустриална AI компания с решения, които се фокусират върху компютърното зрение. „Производствените предприятия се различават доста от основните приложения за анализ и поради това изискват преосмисляне на ИИ, включително внедряване“, каза Прабхакар. „Голяма област на фокус за нас е внедряването на сложни модели за дълбоко учене с непрекъснато обучение директно на производствени линии, използвайки способни, но стокови устройства.“

Разполагането на анализи в отдалечени райони като строителни и сондажни площадки също се възползва от използването на крайни анализи и изчисления. Вместо да разчитат на скъпи и потенциално ненадеждни широкообхватни мрежи, инженерите внедряват инфраструктура за крайни анализи на място, за да поддържат необходимата обработка на данни и анализи. Например, петролна и газова компания внедри решение за поточно анализиране с разпределена в паметта изчислителна платформа до ръба и намали времето за пробиване с до 20% от типичните 15 дни на 12 дни. 

Съответствието и управлението на данните е друга причина за крайния анализ. Внедряването на локализирана инфраструктура може да спомогне за спазването на GDPR и други разпоредби за суверенитет на данните, като съхранява и обработва ограничени данни в държавите, в които се събират данните.

Проектиране на анализи за край

За съжаление, вземането на модели и други анализи и тяхното внедряване към крайната изчислителна инфраструктура не винаги е тривиално. Изискванията за изчисляване за обработка на големи масиви от данни чрез изчислително интензивни модели на данни може да изискват реинженеринг, преди да се стартират и внедрят в крайната изчислителна инфраструктура.

Първо, много разработчици и изследователи на данни вече се възползват от платформите за анализ на по-високо ниво, които се предлагат в публични и частни облаци. IoT и сензорите често използват вградени приложения, написани на C / C ++, които може да са непознати и предизвикателни терени за местни изследователи на данни в облака и инженери.

Друг проблем може да са самите модели. Когато изследователите на данни работят в облака и мащабират изчислителни ресурси при поискване при относително ниски разходи, те са в състояние да разработят сложни модели за машинно обучение с много функции и параметри, за да оптимизират напълно резултатите. Но при внедряването на модели в крайната изчислителна инфраструктура, прекалено сложният алгоритъм може драстично да увеличи цената на инфраструктурата, размера на устройствата и изискванията за мощност.

Обсъдих предизвикателствата пред внедряването на модели на ИИ докрай с Маршал Чой, вицепрезидент на продукта в SambaNova Systems. „Разработчиците на модели за крайни приложения с изкуствен интелект все повече се фокусират върху високо детайлни модели, за да постигнат подобрения в намаляването на параметрите и изчислителните изисквания“, отбеляза той. „Изискванията за обучение за тези по-малки, подробни модели остават обезсърчаващи.“

Друго съображение е, че внедряването на високонадеждна и сигурна система за краен анализ изисква проектиране и внедряване на силно устойчиви на грешки архитектури, системи, мрежи, софтуер и модели.

Говорих с Дейл Ким, старши директор по маркетинг на продукти в Hazelcast, за случаи на употреба и ограничения при обработката на данните на ръба. Той коментира, че докато оптимизацията на оборудването, превантивната поддръжка, проверките за осигуряване на качеството и критичните предупреждения са налични на ръба, има нови предизвикателства като ограничено хардуерно пространство, ограничена физическа достъпност, ограничена честотна лента и по-големи опасения за сигурността.

„Това означава, че инфраструктурата, с която сте свикнали във вашия център за данни, няма да работи непременно“, каза Ким. „Така че трябва да изследвате нови технологии, които са проектирани с оглед на изчислителните архитектури.“

Следващата граница в аналитиката

По-масовите случаи на използване на крайния анализ днес са функции за обработка на данни, включително филтриране на данни и агрегиране. Но тъй като все повече компании разгръщат IoT сензори в мащаб, необходимостта от прилагане на анализи, машинно обучение и алгоритми за изкуствен интелект в реално време ще изисква повече внедряване на ръба. 

Възможностите на ръба правят едно много вълнуващо бъдеще на интелигентните изчисления, тъй като сензорите стават по-евтини, приложенията изискват повече анализи в реално време и разработването на оптимизирани, рентабилни алгоритми за ръба става по-лесно.