استنتاج روی مودمی که از پیش دارید
تلیت سینتریون زمان اجرای LiteRT را روی هستههای کاربردی ماژولهای ۴G، ۵G RedCap و ۵G خود میگذارد و طبقهبندی تصویر را با حداکثر ۱۷ درصد پردازنده و بدون شتابدهنده اضافی اجرا میکند.
تلیت سینتریون از کیت توسعه هوش مصنوعی لبهای خبر داده که استنتاج یادگیری ماشین را مستقیم روی هستههای کاربردی موجود درون ماژولهای سلولیاش اجرا میکند، با زمان اجرای LiteRT و پذیرش مدلها در قالب استاندارد tflite. شرکت میگوید این کیت در سهماهه چهارم ۲۰۲۶ در دسترس خواهد بود، در کنار گونههای مجهز به هوش مصنوعی ماژولهای ۴G، ۵G RedCap و ۵G پرکاراییترش. در آزمون اثبات مفهوم، بارهای کاری طبقهبندی تصویر و تشخیص شیء حداکثر ۱۷ درصد منابع پردازنده را مصرف کردند و از نظر حرارتی پایدار ماندند. کاربردهای نامبرده عبارتاند از نگهداشت پیشبینانه، پایش آوایی، کنتورخوانی هوشمند با طبقهبندی تصویر برای خواندن کنتورهای عقربهای، و تحلیل محلی ارتعاش و صدای موتورها و پمپها.
ادعای جالب اینجا نبود سختافزار است. بیشتر اعلانهای هوش مصنوعی لبه درباره افزودن سیلیکوناند — یک واحد پردازش عصبی، ماژول شتابدهنده، همپردازنده — و این یکی درباره به کار گرفتن ظرفیتی است که از پیش در فهرست قطعات هست و اکنون بیکار میماند. ماژول سلولی پردازنده کاربردی دارد چون باید پشته را مدیریت کند و، در بسیاری طراحیها، برنامه مشتری را اجرا کند؛ اگر طبقهبند کوچکی در فضای خالی جا شود، هزینه نهایی استنتاج هم از نظر پول و هم از نظر مساحت برد نزدیک صفر است.
همین چارچوب مرز کاربرد را تعیین میکند. هفده درصد هسته کاربردی یک ماژول برای یک تشخیصدهنده کلیدواژه، یک طبقهبند ارتعاش، یک امتیاز ناهنجاری روی جریان حسگر، یا خواندن یک عقربه از تصویری ثابت کافی است — و برای تحلیل ویدئوی پیوسته یا هر چیزی با الزام سخت نرخ فریم کافی نیست. راه درست خواندن این اعلان این است که راهی برای پرهیز از ارسال داده خام است نه راهی برای جایگزینی یک ماژول شتابدهنده. نمونه کنتورخوانی روشنترین مورد است: طبقهبندی یک رقم روی خود دستگاه تصویری ۲۰۰ کیلوبایتی را به چند بایت بدل میکند، که همان تفاوت میان یک طرح داده سلولی شدنی و ناشدنی است.
برای تیمهای محصول، دو پرسش تعیین میکند این سودمند است یا نه. آیا تحلیلی که اکنون در ابر رخ میدهد واقعا باید آنجا باشد، یا آنجاست چون محاسبه آنجا بود؟ و مسیر بهروزرسانی مدل چیست — فایل tflite که از راه دور رانده میشود استقرار بهمراتب سبکتری از یک تصویر فریمور است، اما همچنان به نسخهبندی، بازگشت به عقب و راهی برای فهمیدن اینکه کدام مدل نتیجهای معین را تولید کرده نیاز دارد. همین نکته آخر بیش از همه تا پس از نخستین بازآموزی میدانی به تعویق میافتد، و طراحیاش از حالا بهمراتب آسانتر است.