๐Ÿš€ ์–ด๋“œ๋ฐดํ… Edge AI SDK ๊ฐœ๋ฐœ๋ฌธ์„œ ํ—ˆ๋ธŒ ์ •์‹ ์˜คํ”ˆ

Edge AI ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ์˜ฌ์ธ์› ๋ฆฌ์†Œ์Šค โ€” ์ง€๊ธˆ ๋ฐ”๋กœ ํ™•์ธํ•ด ๋ณด์„ธ์š”!

์•ˆ๋…•ํ•˜์„ธ์š”!

AIM-Linux ์ปค๋ฎค๋‹ˆํ‹ฐ๋Š” ์ž„๋ฒ ๋””๋“œ, ๋กœ๋ณดํ‹ฑ์Šค, ๊ทธ๋ฆฌ๊ณ  Edge AI ํ˜์‹ ์„ ์ฃผ๋„ํ•˜๋Š” ๊ฐœ๋ฐœ์ž ์—ฌ๋Ÿฌ๋ถ„์„ ์ง€์›ํ•˜๋Š” ๋ฐ ์ตœ์„ ์„ ๋‹คํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์˜ค๋Š˜์€ ์–ด๋“œ๋ฐดํ… Edge AI SDK ๊ณต์‹ ๊ฐœ๋ฐœ๋ฌธ์„œ ํ—ˆ๋ธŒ๊ฐ€ ์ •์‹์œผ๋กœ ๋Ÿฐ์นญ๋˜์—ˆ๋‹ค๋Š” ๊ธฐ์œ ์†Œ์‹์„ ์ „ํ•ด๋“œ๋ฆฝ๋‹ˆ๋‹ค.

์ƒˆ๋กญ๊ฒŒ ์˜คํ”ˆํ•œ ์ด ํ”Œ๋žซํผ์€ ์‹œ์ž‘ ๊ฐ€์ด๋“œ๋ถ€ํ„ฐ ํ•˜๋“œ์›จ์–ด ํ†ตํ•ฉ, ์›Œํฌํ”Œ๋กœ์šฐ ํŠœํ† ๋ฆฌ์–ผ, ์ƒ˜ํ”Œ ํ”„๋กœ์ ํŠธ, ๊ทธ๋ฆฌ๊ณ  ์ตœ์‹  SDK ์—…๋ฐ์ดํŠธ ์ •๋ณด๊นŒ์ง€ ์—ฌ๋Ÿฌ๋ถ„์—๊ฒŒ ํ•„์š”ํ•œ ๋ชจ๋“  ์ •๋ณด๋ฅผ ํ•œ๊ณณ์— ๋ชจ์•˜์Šต๋‹ˆ๋‹ค. ์ง€๋Šฅํ˜• AMR, ์‚ฐ์—…์šฉ ๋น„์ „ ์‹œ์Šคํ…œ, ์Šค๋งˆํŠธ IoT ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋“ฑ ๋ฌด์—‡์„ ๊ฐœ๋ฐœํ•˜๋“ , ์ด ๋ฌธ์„œ ํ—ˆ๋ธŒ๋Š” ์—ฌ๋Ÿฌ๋ถ„์˜ ๊ฐœ๋ฐœ ํ”„๋กœ์„ธ์Šค๋ฅผ ํš๊ธฐ์ ์œผ๋กœ ๊ฐ€์†ํ™”ํ•ด ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.


:magnifying_glass_tilted_left: ์–ด๋“œ๋ฐดํ… Edge AI SDK๋ž€ ๋ฌด์—‡์ธ๊ฐ€์š”?

Edge AI SDK๋Š” ์—ฃ์ง€ ๋””๋ฐ”์ด์Šค์—์„œ์˜ AI ๊ฐœ๋ฐœ์„ ๊ฐ„์†Œํ™”ํ•˜๊ธฐ ์œ„ํ•ด ์„ค๊ณ„๋œ ์–ด๋“œ๋ฐดํ…์˜ ํ†ตํ•ฉ ์†Œํ”„ํŠธ์›จ์–ด ํ”„๋ ˆ์ž„์›Œํฌ์ž…๋‹ˆ๋‹ค.

[์ฃผ์š” ๊ธฐ๋Šฅ]

  • ์™„์„ฑ๋œ AI ์›Œํฌํ”Œ๋กœ์šฐ: (์‚ฌ์ „ ํ•™์Šต๋œ ๋ชจ๋ธ โ†’ ์ตœ์ ํ™” โ†’ ๋ฐฐํฌ)

  • ์–ด๋“œ๋ฐดํ… Edge AI ํ•˜๋“œ์›จ์–ด์™€์˜ ์ตœ์ ํ™”๋œ ํ†ตํ•ฉ

  • ์„ฑ๋Šฅ ๊ฐ€์†์„ ์œ„ํ•œ ์ตœ์ ํ™”๋œ ์ถ”๋ก (Inference) ๋Ÿฐํƒ€์ž„

  • ๋ฐ”๋กœ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์˜ˆ์ œ ๋ฐ ์ƒ˜ํ”Œ ์ฝ”๋“œ

  • ์ง€์†์ ์œผ๋กœ ์—…๋ฐ์ดํŠธ๋˜๋Š” ๋ฆด๋ฆฌ์Šค ๋…ธํŠธ ๋ฐ ๊ฐœ์„  ์‚ฌํ•ญ

[์ง€์› ํ”Œ๋žซํผ]

  • NVIDIA Jetson: (Orin Nano / NX / AGX)

  • Qualcomm: QCS6490 / QRB ์‹œ๋ฆฌ์ฆˆ

  • x86 Edge AI ํ”Œ๋žซํผ: AIMB, AIR, ARK ์‹œ๋ฆฌ์ฆˆ ๋“ฑ


:books: ๊ฐœ๋ฐœ๋ฌธ์„œ ํ—ˆ๋ธŒ์—์„œ ์ œ๊ณตํ•˜๋Š” ์ฃผ์š” ๋‚ด์šฉ

:one: ํ€ต ์Šคํƒ€ํŠธ ํŠœํ† ๋ฆฌ์–ผ (Quick Start Tutorials)

SDK๋ฅผ ์ฒ˜์Œ ์ ‘ํ•˜๋Š” ๋ถ„๋“ค์„ ์œ„ํ•ด ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๋‚ด์šฉ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค:

  • SDK ์„ค์น˜ ๋ฐฉ๋ฒ•

  • ์ฒซ ๋ฒˆ์งธ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์‹คํ–‰ํ•˜๊ธฐ

  • Docker ๋˜๋Š” Conda ํ™˜๊ฒฝ ํ™œ์šฉ๋ฒ•

  • ๋ฐฐํฌ ๊ธฐ์ดˆ ๋ฐ ์›Œํฌํ”Œ๋กœ์šฐ ๊ตฌ์กฐ

:right_arrow: ์ดˆ๋ณด์ž๋„ ๋ช‡ ๋ถ„ ์•ˆ์— ์ฒซ ๋ฒˆ์งธ ๋ฐ๋ชจ๋ฅผ ์‹คํ–‰ํ•ด ๋ณผ ์ˆ˜ ์žˆ์„ ๋งŒํผ ์นœ์ˆ™ํ•˜๊ฒŒ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.


:two: ํ•˜๋“œ์›จ์–ด ํ†ตํ•ฉ ๊ฐ€์ด๋“œ (Hardware Integration Guides)

์ง€์›๋˜๋Š” ๊ฐ ํ•˜๋“œ์›จ์–ด ํ”Œ๋žซํผ์— ๋Œ€ํ•ด ์ƒ์„ธ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค:

  • ์„ค์น˜ ๋‹จ๊ณ„ ๋ฐ ์‹œ์Šคํ…œ ์„ค์ •

  • BSP(Board Support Package) ๋ฐ ๋“œ๋ผ์ด๋ฒ„ ์ •๋ณด

  • ์„ฑ๋Šฅ ๋ฒค์น˜๋งˆํฌ

  • SDK ํ˜ธํ™˜์„ฑ ์„ธ๋ถ€ ์ •๋ณด

์ž„๋ฒ ๋””๋“œ AI ์‹œ์Šคํ…œ ๋ฐ ์‚ฐ์—…์šฉ ์—ฃ์ง€ ์ปดํ“จํŒ… ๋ถ„์•ผ์˜ ๊ฐœ๋ฐœ์ž ๋ชจ๋‘์—๊ฒŒ ์œ ์šฉํ•œ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.


:three: Edge AI ์›Œํฌํ”Œ๋กœ์šฐ (Edge AI Workflow)

์•„์ด๋””์–ด๋ฅผ ์‹ค์ œ ์ œํ’ˆ์œผ๋กœ ๊ตฌํ˜„ํ•˜๋Š” ๊ณผ์ •์„ ๋ณด์—ฌ์ฃผ๋Š” ์ด ์‚ฌ์ดํŠธ์˜ ํ•ต์‹ฌ ์„น์…˜์ž…๋‹ˆ๋‹ค:

  • ์‚ฌ์ „ ํ•™์Šต๋œ AI ๋ชจ๋ธ ํ™œ์šฉ

  • ๋ชจ๋ธ ์ตœ์ ํ™” ๋ฐฉ๋ฒ• (TensorRT, SNPE, OpenVINO)

  • ํŒจํ‚ค์ง• ๋ฐ ๋ฐฐํฌ ์›Œํฌํ”Œ๋กœ์šฐ

  • ์‹ค์ œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ํ…œํ”Œ๋ฆฟ

:right_arrow: ๋กœ๋ณดํ‹ฑ์Šค, ์‚ฐ์—… ์ž๋™ํ™”, ์Šค๋งˆํŠธ ๋ฆฌํ…Œ์ผ, AIoT ๋ฐฐํฌ ๋ถ„์•ผ์— ์ข…์‚ฌํ•˜๋Š” ๋ถ„๋“ค์—๊ฒŒ ์ด์ƒ์ ์ž…๋‹ˆ๋‹ค.


:four: ์ตœ์‹  ์—…๋ฐ์ดํŠธ ์ •๋ณด (Release Notes)

SDK์˜ ๋ชจ๋“  ์—…๋ฐ์ดํŠธ ์‚ฌํ•ญ์„ ์‹ค์‹œ๊ฐ„์œผ๋กœ ํ™•์ธํ•˜์„ธ์š”.

  • ์ƒˆ๋กœ์šด ๋Ÿฐํƒ€์ž„ ๊ธฐ๋Šฅ ๋ฐ ๋ชจ๋ธ ์ง€์› ์ถ”๊ฐ€

  • ์—…๋ฐ์ดํŠธ๋œ ์ƒ˜ํ”Œ ๋ฐ ์ตœ์ ํ™” ๊ฐ•ํ™”

  • ๋ฒ„๊ทธ ์ˆ˜์ • ๋ฐ ํ˜ธํ™˜์„ฑ ์—…๋ฐ์ดํŠธ

:backhand_index_pointing_right: ํ™˜๊ฒฝ์„ ์—…๊ทธ๋ ˆ์ด๋“œํ•˜๊ธฐ ์ „์— ๋ฐ˜๋“œ์‹œ ํ™•์ธํ•˜์‹œ๋Š” ๊ฒƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.


:test_tube: ์ฃผ์š” ์ƒ˜ํ”Œ ํ”„๋กœ์ ํŠธ

SDK์—๋Š” ์ฆ‰์‹œ ๊ฐœ๋ฐœ ํ”„๋กœ์ ํŠธ์— ํ™œ์šฉ ๊ฐ€๋Šฅํ•œ ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์ƒ˜ํ”Œ์ด ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

  • ๊ฐ์ฒด ํƒ์ง€: (YOLO ์‹œ๋ฆฌ์ฆˆ ๋“ฑ)

  • ํฌ์ฆˆ ์ถ”์ • (Pose Estimation)

  • ํ”ผํ”Œ ์นด์šดํŒ… ๋ฐ ์ด๋ฒคํŠธ ํƒ์ง€

  • SLM / VLM ์ฑ—๋ด‡: ์ถ”๋ก  ๋ฐ ์ƒ์„ฑํ˜• AI

  • ์Œ์„ฑ ๊ธฐ์ˆ : STT (Speech-to-Text) ๋ฐ TTS (Text-to-Speech)

  • MCP (Model Context Protocol) ํ”„๋ ˆ์ž„์›Œํฌ: AI ๋„๊ตฌ์šฉ

  • ์–ผ๊ตด ์ธ์‹ (Face Detection)


:glowing_star: AIM-Linux ์ปค๋ฎค๋‹ˆํ‹ฐ ๊ฐœ๋ฐœ์ž๊ฐ€ ์ด ์‚ฌ์ดํŠธ๋ฅผ ๋ถ๋งˆํฌํ•ด์•ผ ํ•˜๋Š” ์ด์œ 

  • ๊ฐ€์žฅ ์™„์ „ํ•œ Edge AI ๋ ˆํผ๋Ÿฐ์Šค: ์ดˆ๊ธ‰๋ถ€ํ„ฐ ๊ณ ๊ธ‰ ์ƒ์‚ฐ ๋‹จ๊ณ„๊นŒ์ง€์˜ ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ์•„์šฐ๋ฆ…๋‹ˆ๋‹ค.

  • ๊ณต์‹ ์—…๋ฐ์ดํŠธ: ๋” ์ด์ƒ ์˜ค๋ž˜๋˜๊ฑฐ๋‚˜ ํฉ์–ด์ง„ ๋ฌธ์„œ๋ฅผ ์ฐพ์„ ํ•„์š”๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค. ์—ฌ๊ธฐ ํ—ˆ๋ธŒ์— ๋ชจ๋‘ ๋ชจ์•„ ๋‘์—ˆ์Šต๋‹ˆ๋‹ค.

  • ๋‹ค์–‘ํ•œ ๊ฐ€์†๊ธฐ ์ง€์›: ์–ด๋“œ๋ฐดํ…์€ NVIDIA, Qualcomm, x86์ด ํ•˜๋‚˜์˜ ์ƒํƒœ๊ณ„๋กœ ํ†ตํ•ฉ๋˜์–ด ์žˆ์–ด, ๊ฐœ๋ฐœ ๊ณผ์ •์—์„œ ํ•„์š”ํ•œ ์ง€์›์ด ์žˆ๋‹ค๋ฉด ์–ธ์ œ๋“  ๋„์›€์„ ๋ฐ›์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • ์ฆ‰์‹œ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์ƒ˜ํ”Œ: ๋น ๋ฅธ ํ‰๊ฐ€, ํ”„๋กœํ† ํƒ€์ดํ•‘ ๋ฐ POC ๊ฐœ๋ฐœ์— ์ตœ์ ์ž…๋‹ˆ๋‹ค.


:paperclip: ์ง€๊ธˆ ๋ฐ”๋กœ ์‹œ์ž‘ํ•ด ๋ณด์„ธ์š”!

  • ๋ฌธ์„œ ํ—ˆ๋ธŒ ์ฃผ์†Œ: https://docs.edge-ai-sdk.advantech.com/

  • SDK ๊ฐœ๋ฐœ๋ฌธ์„œ ํ—ˆ๋ธŒ๊ฐ€ ์ฒ˜์Œ์ด๋ผ๋ฉด?: โ€œGet Startedโ€ ๋ฐ โ€œTutorialโ€ ์„น์…˜์„ ํ™•์ธํ•ด ์ฃผ์„ธ์š”!

Edge AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ, ์นด๋ฉ”๋ผ ๋น„์ „ ๋ถ„์„, AI ๋ชจ๋ธ ์ถ”๋ก  ์ตœ์ ํ™”, ํ˜น์€ ์‚ฐ์—…์šฉ AI/IoT ์‹œ์Šคํ…œ์„ ๋‹ค๋ฃจ๊ณ  ๊ณ„์‹ ๋‹ค๋ฉด, ์ด ๊ฐœ๋ฐœ๋ฌธ์„œ ํ—ˆ๋ธŒ๋Š” ์—ฌ๋Ÿฌ๋ถ„์˜ ์—…๋ฌด์— ํ•„์ˆ˜์ ์ธ ๋„๊ตฌ๊ฐ€ ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.


ํŠน์ • ๊ธฐ์ˆ  ์šฉ์–ด๋‚˜ ํ•˜๋“œ์›จ์–ด ์‹œ๋ฆฌ์ฆˆ์— ๋Œ€ํ•ด ๋” ์ž์„ธํ•œ ์„ค๋ช…์ด ํ•„์š”ํ•˜์‹œ๋ฉด ์–ธ์ œ๋“  ๋ง์”€ํ•ด ์ฃผ์„ธ์š”!

#Edge AI SDK

1 Like