Skip to main content

مجموعه‌داده چیست

توجه: این سند ترجمه خودکار نسخه اصلی انگلیسی است.

مجموعه‌داده چیست

مجموعه‌داده (dataset) گردایه‌ای ساخت‌یافته از داده است که برای آموزش، ارزیابی یا آزمودن یک مدل AI به کار می‌رود. مجموعه‌داده مادهٔ خامی است که یادگیری ماشین روی آن کار می‌کند. بدون مجموعه‌داده، چیزی برای یادگیری مدل وجود ندارد و راهی هم برای سنجش کارکرد آن نیست.

مجموعه‌داده را مانند کتاب درسی برای یک دانش‌آموز در نظر بگیرید. اگر کتاب پر از خطا باشد، فصل‌هایی از آن گم شده باشد یا به زبانی نوشته شده باشد که دانش‌آموز نمی‌داند، او هر چقدر هم بااستعداد باشد بد یاد می‌گیرد. همین اصل دربارهٔ AI صادق است: کیفیت، اندازه، ارتباط و ساختار مجموعه‌داده سقف دستاورد هر مدلی را تعیین می‌کند. یک معماری درخشان که روی دادهٔ بد آموزش ببیند، نتایج بدی می‌دهد. اصل معروف garbage in, garbage out از همین‌جا می‌آید و همچنان مهم‌ترین قاعدهٔ یادگیری ماشین کاربردی است.

خلاصه: مجموعه‌داده مجموعهٔ سازمان‌یافته‌ای از مثال‌هاست که مدل AI از آن یاد می‌گیرد — و کیفیت آن داده مستقیماً کیفیت مدل را تعیین می‌کند.

مجموعه‌داده‌ها چگونه ساخته می‌شوند

مجموعه‌دادهٔ نهایی ممکن است شبیه یک فایل واحد یا یک پایگاه دادهٔ مرتب به نظر برسد، اما رسیدن به آن نیازمند یک خط لولهٔ چندمرحله‌ای است. هر مرحله تصمیم‌هایی به همراه دارد که بر مدل نهایی اثر می‌گذارند.

گردآوری

داده باید از منابعی مرتبط با وظیفه گردآوری شود. برای یک مدل زبانی بزرگ، این ممکن است به معنای خزیدن در وب، تجمیع کتاب‌ها و مقالات علمی یا استخراج مخازن کد باشد. برای یک مدل ویژهٔ کریپتو، ممکن است به معنای گردآوری تاریخچهٔ تراکنش‌های بلاکچین، مستندات پروتکل‌ها، پیشنهادهای حاکمیتی یا احساسات شبکه‌های اجتماعی باشد. انتخاب منابع تعیین می‌کند مدل چه چیزهایی را می‌تواند و چه چیزهایی را نمی‌تواند یاد بگیرد. مدلی که فقط روی متن انگلیسی آموزش دیده در پرس‌وجوهای چندزبانه شکست می‌خورد. مدلی که فقط روی دادهٔ تاریخی بازار آموزش دیده مکانیک پروتکل‌های جدید را از دست می‌دهد.

پاک‌سازی

دادهٔ خام گردآوری‌شده پرنویز است. تکرارها، قالب‌بندی خراب، خطاهای کدگذاری، اسپم، اطلاعات هویتی اشخاص و محتوای نامرتبط یا زیان‌بار در آن هست. پاک‌سازی داده این مشکلات را حذف یا اصلاح می‌کند. گام‌های رایج شامل حذف تکرار (کنار گذاشتن رکوردهای تقریباً یکسان)، نرمال‌سازی (استانداردسازی قالب‌ها، تاریخ‌ها و واحدها)، فیلترکردن (حذف مثال‌های کم‌کیفیت یا خارج از محدوده) و ناشناس‌سازی (زدودن داده‌های شخصی برای رعایت مقررات حریم خصوصی) است. پاک‌سازی خسته‌کننده اما حیاتی است — مدل‌هایی که روی دادهٔ پاک‌نشده آموزش می‌بینند، نویز را همراه با سیگنال یاد می‌گیرند.

برچسب‌گذاری

برای یادگیری بانظارت — رایج‌ترین رویکرد آموزش — هر مثال در مجموعه‌داده باید پاسخ درستی به آن پیوست شود. یک عکس به برچسبی مانند «گربه» یا «سگ» نیاز دارد. یک تراکنش به برچسبی مانند «کلاهبردارانه» یا «مشروع» نیاز دارد. یک جمله به نمرهٔ احساسات نیاز دارد. این فرایند برچسب‌گذاری (یا حاشیه‌نویسی) نام دارد.

برچسب‌گذاری گران و کاربر است. معمولاً به حاشیه‌نویسان انسانی نیاز دارد که مثال‌ها را یکی‌یکی مرور می‌کنند و طبق دستورالعمل‌های مفصل برچسب می‌زنند. کیفیت با افزونگی (چند حاشیه‌نویس برای هر مثال) و متریک‌های توافق میان حاشیه‌نویسان تضمین می‌شود. برخی پروژه‌های کریپتو AI شبکه‌های برچسب‌گذاری غیرمتمرکز می‌سازند که در آن مشارکت‌کنندگان داده را حاشیه‌نویسی می‌کنند و پاداش توکنی می‌گیرند — هرچند کیفیت برچسب‌های انگیزه‌محور باید با دقت راستی‌آزمایی شود.

برای وظایفی که برچسب لازم نیست یا به دست آوردنش عملی نیست، یادگیری خودنظارتی سیگنال آموزشی را از ساختار خود داده استخراج می‌کند (مثلاً پیش‌بینی واژهٔ بعدی در جمله، یا بازسازی بخش پوشانده‌شدهٔ یک تصویر).

تقسیم‌بندی

پیش از آغاز آموزش، مجموعه‌داده به زیرمجموعه‌های بدون هم‌پوشانی تقسیم می‌شود:

تقسیم هدف سهم معمول
مجموعهٔ آموزش مدل از این داده یاد می‌گیرد ۷۰-۹۰٪
مجموعهٔ اعتبارسنجی در طول آموزش برای پایش پیشرفت و تنظیم ابرپارامترها استفاده می‌شود ۵-۱۵٪
مجموعهٔ آزمون فقط یک بار، پس از آموزش، برای سنجش عملکرد نهایی استفاده می‌شود ۵-۱۵٪

مجموعه‌های اعتبارسنجی و آزمون هرگز نباید به آموزش نشت کنند. اگر مدل در طول آموزش دادهٔ آزمون را ببیند، نتایج ارزیابی بی‌معنا می‌شوند — مدل عملاً پاسخ‌ها را حفظ کرده است. این جداسازی الزامی بنیادین برای بنچمارک‌ها و متریک‌های کیفیت قابل اعتماد است.

نسخه‌بندی

مجموعه‌داده‌ها ایستا نیستند. با گردآوری دادهٔ جدید رشد می‌کنند، با حذف مثال‌های مشکل‌دار کوچک می‌شوند و با تغییر دستورالعمل‌های برچسب‌گذاری تکامل می‌یابند. نسخه‌بندی مجموعه‌داده این تغییرات را ردیابی می‌کند تا اجراهای آموزشی قابل بازتولید و مقایسه باشند. مدلی که روی نسخهٔ 2.3 یک مجموعه‌داده آموزش دیده باید نتایجی متفاوت از مدلی داشته باشد که روی نسخهٔ 1.0 آموزش دیده، و این تفاوت باید قابل ردگیری باشد. ابزارهایی مانند DVC (Data Version Control)، Hugging Face Datasets و Git LFS به تیم‌ها کمک می‌کنند نسخه‌های مجموعه‌داده را نظام‌مند مدیریت کنند.

انواع مجموعه‌داده‌ها

مجموعه‌داده‌ها بر اساس شیوهٔ برچسب‌گذاری، سازنده و کاربردشان متفاوت‌اند. شناخت این انواع هنگام ارزیابی ادعاهای AI در پروژه‌های کریپتو کمک می‌کند.

برچسب‌دار در برابر بدون برچسب

  • مجموعه‌داده‌های برچسب‌دار پاسخ درست هر مثال را شامل می‌شوند. یک مجموعه‌دادهٔ تصویری برچسب‌دار هر تصویر را با برچسب کلاس جفت می‌کند؛ یک مجموعه‌دادهٔ متنی برچسب‌دار هر جمله را با نمرهٔ احساسات یا برچسب موجودیت‌ها جفت می‌کند. دادهٔ برچسب‌دار یادگیری بانظارت را ممکن می‌کند، رایج‌ترین و شناخته‌شده‌ترین پارادایم آموزش.
  • مجموعه‌داده‌های بدون برچسب گردایه‌های خام بدون حاشیه‌نویسی‌اند — متن وب، تصاویر، لاگ تراکنش‌ها، خوانش حسگرها. در یادگیری بی‌نظارت (یافتن ساختار بدون راهنمایی) و به‌عنوان نقطهٔ آغاز یادگیری خودنظارتی به کار می‌روند، همان شیوه‌ای که LLMهای مدرن با آن پیش‌آموزش می‌بینند. مدل به‌جای برچسب‌های بیرونی، با پیش‌بینی بخش‌هایی از ورودی خودش (مثلاً پیش‌بینی واژهٔ بعدی) یاد می‌گیرد.

بیشتر سیستم‌های عملی AI از هر دو استفاده می‌کنند: پیش‌آموزش روی دادهٔ عظیم بدون برچسب و سپس ریزتنظیم روی مجموعه‌دادهٔ برچسب‌دار کوچک‌تر و ویژهٔ دامنه.

عمومی در برابر اختصاصی

  • مجموعه‌داده‌های عمومی برای پژوهش و توسعه آزادانه در دسترس‌اند. نمونه‌های شناخته‌شده عبارت‌اند از ImageNet (۱۴ میلیون تصویر برچسب‌دار در بیش از ۲۰٬۰۰۰ دسته)، Common Crawl (پتابایت‌ها دادهٔ خام وب که بنیان بسیاری از LLMهاست) و The Pile (پیکرهٔ متنی متنوع ۸۲۵ گیگابایتی که EleutherAI مشخصاً برای آموزش مدل‌های زبانی گردآوری کرد). مجموعه‌داده‌های عمومی سد ورود را پایین می‌آورند اما در اختیار همه هستند — به‌تنهایی مزیت رقابتی نمی‌سازند.
  • مجموعه‌داده‌های اختصاصی توسط سازمانی مشخص گردآوری، گزینش یا لایسنس می‌شوند و به‌صورت عمومی به اشتراک گذاشته نمی‌شوند. یک شرکت تحلیل کریپتو ممکن است مجموعه‌دادهٔ اختصاصی‌ای از تراکنش‌های برچسب‌دار DeFi بسازد. دادهٔ اختصاصی می‌تواند مزیت رقابتی واقعی بدهد، اما ادعای «دادهٔ اختصاصی» از بیرون به‌سختی قابل راستی‌آزمایی است. بدون افشای منابع، روش‌شناسی یا آمار نمونه‌ها، این ادعا غیرقابل تأیید است.

مجموعه‌داده‌های مصنوعی

دادهٔ مصنوعی به‌جای گردآوری از منابع دنیای واقعی، توسط الگوریتم‌ها یا مدل‌های AI دیگر تولید می‌شود. یک مدل مولد ممکن است تصاویر واقع‌نما، نمونه‌های متنی یا الگوهای تراکنش تولید کند که مجموعه‌دادهٔ واقعی را تقویت می‌کنند. دادهٔ مصنوعی وقتی مفید است که دادهٔ واقعی کمیاب، گردآوری‌اش پرهزینه یا به‌واسطهٔ مقررات حریم خصوصی محدود باشد. اما دادهٔ مصنوعی ریسک هم دارد: اگر مولد سوگیری داشته باشد، دادهٔ مصنوعی آن را به ارث می‌برد؛ و مدل‌هایی که تماماً روی دادهٔ مصنوعی آموزش می‌بینند ممکن است دچار حلقه‌های بازخوردی شوند (گاهی «فروپاشی مدل» نامیده می‌شود) که در آن خطاها نسل به نسل انباشته می‌شوند.

مجموعه‌داده‌های بنچمارک

مجموعه‌داده‌های بنچمارک مجموعه‌های ارزیابی استانداردشده‌ای هستند که برای سنجش قابلیت‌های مشخص طراحی شده‌اند. آنها یک مجموعهٔ آزمون ثابت با پاسخ‌های درست معلوم دارند. مدل‌ها در برابر این بنچمارک‌ها ارزیابی می‌شوند تا نمره‌های قابل مقایسه به دست آید. از جمله:

بنچمارک دامنه چه چیزی را می‌سنجد
ImageNet بینایی رایانه دقت دسته‌بندی تصویر
GLUE / SuperGLUE زبان طبیعی درک زبان در چند وظیفه
MMLU دانش عمومی دقت چندوظیفه‌ای در ۵۷ موضوع
HumanEval تولید کد درستی کارکردی کد تولیدشده
Common Crawl متن وب به‌عنوان دادهٔ آموزشی استفاده می‌شود؛ مقیاس و پوشش

نتایج بنچمارک در کارت‌های پروژهٔ DecAIHub به‌عنوان شواهدی برای پرچم AI_3 (متریک/بنچمارک/کیفیت) در چارچوب الگوریتم DecAI Fit ظاهر می‌شوند.

چرا مجموعه‌داده‌ها در کریپتو AI اهمیت دارند

کیفیت داده کیفیت مدل را تعیین می‌کند. مدلی که روی دادهٔ پرنویز، سوگیرانه یا نامرتبط آموزش دیده، خروجی‌های پرنویز، سوگیرانه یا نامرتبط تولید می‌کند — هر چقدر هم معماری‌اش پیچیده باشد. برای پروژه‌های کریپتو AI این پیامدهای مشخصی دارد:

  • عاملی که روی مستندات قدیمی پروتکل آموزش دیده، دربارهٔ پارامترهای فعلی قراردادها پاسخ‌های نادرست می‌دهد.
  • تحلیلگر احساساتی که فقط روی متن انگلیسی آموزش دیده، در جوامع کریپتوی چندزبانه شکست می‌خورد.
  • مدل ریسکی که روی دادهٔ ناقص on-chain آموزش دیده، الگوهای حیاتی تراکنش‌ها را از دست می‌دهد.

هنگام ارزیابی ادعاهای AI یک پروژه، مجموعه‌داده قطعه‌ای حیاتی است. پروژه‌ای که منابع داده، روش‌های گردآوری و کنترل‌های کیفیت خود را توصیف می‌کند، عمق AI بیشتری نشان می‌دهد تا پروژه‌ای که «AI» را ذکر می‌کند بدون اینکه توضیح دهد مدل از چه چیزی یاد گرفته است.

دادهٔ غیرمتمرکز در کریپتو AI

چند الگو در دستهٔ AI/Data مجموعه‌داده‌ها را به مکانیک بلاکچین و توکن پیوند می‌دهند:

  • بازارهای داده — پلتفرم‌هایی که در آنها تأمین‌کنندگان داده مجموعه‌داده‌ها را می‌فروشند یا لایسنس می‌دهند، با تسویهٔ on-chain و ردیابی منشأ.
  • گردآوری دادهٔ انگیزه‌محور — پروژه‌هایی که به کاربران بابت مشارکت داده (برچسب‌گذاری تصاویر، حاشیه‌نویسی متن، اشتراک خوانش حسگرها) پاداش توکنی می‌دهند.
  • مجموعه‌داده‌های فدرال — داده‌ای که میان مشارکت‌کنندگان توزیع‌شده می‌ماند و هرگز در یک مکان تجمیع نمی‌شود. مدل‌ها با یادگیری فدرال همان‌جا روی آن آموزش می‌بینند.
  • DAOهای داده — سازمان‌های غیرمتمرکزی که به‌صورت جمعی بر مجموعه‌داده‌های مشترک حاکمیت می‌کنند، آنها را گزینش و درآمدزایی می‌کنند.

این مدل‌ها می‌کوشند مشکلی واقعی را حل کنند: دادهٔ برچسب‌دار باکیفیت گران است و اغلب در اختیار چند شرکت بزرگ. انگیزه‌های توکنی بالقوه می‌توانند مشارکت داده را دموکراتیک کنند — هرچند کیفیت دادهٔ انگیزه‌محور باید با دقت راستی‌آزمایی شود.

گردآوری و برچسب‌گذاری داده

دادهٔ خام به‌ندرت آمادهٔ آموزش می‌رسد. باید گردآوری، پاک‌سازی، قالب‌بندی و اغلب توسط کارگران انسانی یا سیستم‌های خودکار برچسب‌گذاری شود. این خط لوله — گردآوری و برچسب‌گذاری داده — خود یک AI component واقعی است که در کارت‌های پروژهٔ DecAIHub ظاهر می‌شود.

برچسب‌گذاری در مقیاس بزرگ گران و کاربر است. برخی پروژه‌های کریپتو AI شبکه‌های برچسب‌گذاری غیرمتمرکز می‌سازند که در آن مشارکت‌کنندگان داده را حاشیه‌نویسی می‌کنند و پاداش توکنی می‌گیرند. کیفیت برچسب‌ها معمولاً با افزونگی (چند برچسب‌زن برای هر مثال) و سازوکارهای اجماع تضمین می‌شود.

مجموعه‌داده‌ها کجای کارت‌های پروژهٔ DecAIHub ظاهر می‌شوند

مجموعه‌داده‌ها در چند بخش از کارت پروژهٔ DecAIHub دیده می‌شوند:

  • AI component — مقادیر مرتبط با داده مانند «data collection»، «data labeling» یا «training data pipeline» نشان می‌دهند پروژه فعالانه با مجموعه‌داده‌ها کار می‌کند و صرفاً مصرف‌کنندهٔ مدل‌های ازپیش‌ساخته نیست.
  • Category — پروژه‌های دستهٔ AI/Data مشخصاً بر زیرساخت داده، بازارهای داده یا هماهنگی غیرمتمرکز داده تمرکز دارند.
  • جدول Evidence — شواهد Tier-1 برای کیفیت مجموعه‌داده شامل کارت‌های دادهٔ منتشرشده، آمار نمونه‌ها، مستندات روش‌شناسی گردآوری، اطلاعات لایسنس و پیوند به مجموعه‌داده‌ها یا مخازن دادهٔ در دسترس عموم است.
  • ai_score — در چارچوب الگوریتم DecAI Fit، پروژه‌ای که کار واقعی روی داده را با شواهد منتشرشده نشان می‌دهد به ai_score بالاتری کمک می‌کند. صرفِ ادعای «دادهٔ اختصاصی» بدون artifactهای قابل راستی‌آزمایی چنین نمی‌کند.

مجموعه‌داده به‌تنهایی چه چیزی را ثابت نمی‌کند

  • داشتن داده به این معنا نیست که AI استفاده‌کننده از آن واقعی یا خوب است. پروژه می‌تواند مجموعه‌دادهٔ عظیمی گردآوری کند و همچنان هیچ مدل کارآمدی، هیچ خط لولهٔ استنتاجی و هیچ خروجی مفیدی نداشته باشد.
  • اندازهٔ مجموعه‌داده جایگزین کیفیت نیست. یک میلیون مثال بدبرچسب بدتر از هزار مثال خوب‌گزینش‌شده است.
  • ادعای «دادهٔ اختصاصی» شواهد نیست. بدون افشای منابع داده، روش‌شناسی گردآوری یا نتایج ارزیابی، این ادعا غیرقابل تأیید است. چارچوب شواهد Tier-1/2/3 را ببینید.
  • مجموعه‌داده توضیح نمی‌دهد چرا توکن لازم است. ذخیره و دسترسی به داده ذاتاً به بلاکچین یا توکن نیاز ندارد.
  • گردآوری داده آموزش نیست. پروژه‌ای با مجموعه‌دادهٔ بزرگ اما بدون مدل، بدون خط لولهٔ آموزش و بدون نقطهٔ دسترسی استنتاج، پروژهٔ داده است، نه پروژهٔ AI.

اشتباه نگیرید با

  • آموزش فرایندی است که مجموعه‌داده را مصرف می‌کند. مجموعه‌داده ورودی است؛ آموزش عملیات.
  • گردآوری و برچسب‌گذاری داده خط لوله‌ای است که مجموعه‌داده را تولید می‌کند. این دو مرتبط اما مراحل جداگانه‌اند.
  • دستهٔ AI/Data پروژه‌های متمرکز بر زیرساخت داده را طبقه‌بندی می‌کند. مجموعه‌داده مفهومی است که در همهٔ دسته‌های AI استفاده می‌شود.
  • AI component سازوکاری را توصیف می‌کند که کار AI در آن رخ می‌دهد. مجموعه‌داده به آن سازوکار خوراک می‌دهد اما خودِ سازوکار نیست.
  • بنچمارک‌ها و متریک‌های کیفیت برای ارزیابی از مجموعه‌داده‌های مشخصی استفاده می‌کنند، اما بنچمارک رویهٔ ارزیابی است، نه خودِ مجموعه‌داده.

پرسش‌های متداول

چه چیزی یک مجموعه‌دادهٔ خوب می‌سازد؟

مجموعه‌دادهٔ خوب با وظیفه مرتبط است، برای پوشش فضای مسئله به قدر کافی بزرگ است، (در صورت بانظارت بودن) دقیق برچسب خورده، از سوگیری‌های سیستماتیک آزاد است و خوب مستند شده. مستندات باید شامل منبع داده، روش‌شناسی گردآوری، دستورالعمل‌های برچسب‌گذاری، محدودیت‌های شناخته‌شده و تاریخچهٔ نسخه‌ها باشد. در عمل، یک مجموعه‌دادهٔ کوچک‌تر اما بادقت گزینش‌شده اغلب از مجموعه‌دادهٔ بزرگ‌تر اما پرنویز بهتر عمل می‌کند. اصل ساده است: مدل فقط می‌تواند به خوبی داده‌ای باشد که از آن یاد گرفته است.

مسموم‌سازی داده چیست؟

مسموم‌سازی داده حمله‌ای عمدی است که در آن مهاجم مثال‌های بدخواهانه را به مجموعه‌دادهٔ آموزشی تزریق می‌کند تا رفتار مدل را خراب کند. برای نمونه، مهاجم ممکن است تصاویری بدبرچسب اضافه کند تا دسته‌بند در ورودی‌های مشخصی خطا کند، یا متنی سوگیرانه تزریق کند تا مدل زبانی خروجی‌های زیان‌بار تولید کند. مسموم‌سازی داده نگرانی جدی‌ای برای گردآوری غیرمتمرکز داده است، جایی که مشارکت‌کنندگان ممکن است ناشناس و انگیزه‌محور باشند. سازوکارهای دفاعی شامل برچسب‌گذاری افزونه، تشخیص ناهنجاری، سیستم‌های اعتبار مشارکت‌کنندگان و ردیابی رمزنگارانهٔ منشأ داده است.

آیا می‌توان از دادهٔ دارای حق نشر برای آموزش AI استفاده کرد؟

این پرسشی حقوقی و باز است و پاسخ جهانی ندارد. چند دعوای حقوقی پرسروصدا در حال آزمودن این هستند که آیا آموزش روی مواد دارای حق نشر مصداق استفادهٔ منصفانه است یا نه. برخی حوزه‌های قضایی استثناهای صریحی برای متن‌کاوی و داده‌کاوی با اهداف پژوهشی دارند. در عمل، بیشتر مدل‌های زبانی بزرگ روی داده‌های خزیده‌شده از وب آموزش دیده‌اند که محتوای دارای حق نشر هم دارد. پروژه‌هایی که منابع داده و شرایط لایسنس خود را افشا می‌کنند شفافیت بیشتری نشان می‌دهند تا آنها که نمی‌کنند. DecAIHub شفافیت داده را به‌عنوان بخشی از چارچوب شواهد ارزیابی می‌کند، اما دربارهٔ حق نشر تعیین‌تکلیف حقوقی نمی‌کند.

مجموعه‌دادهٔ مصنوعی چیست؟

مجموعه‌دادهٔ مصنوعی به‌جای گردآوری از منابع دنیای واقعی، توسط الگوریتم‌ها یا مدل‌های AI دیگر تولید می‌شود. دادهٔ مصنوعی برای تقویت مجموعه‌داده‌های واقعی، پرکردن شکاف‌ها در جاهایی که دادهٔ واقعی کمیاب است، یا حفاظت از حریم خصوصی با جایگزینی رکوردهای حساس با بدیل‌های واقع‌نما اما مصنوعی به کار می‌رود. ریسک این است که دادهٔ مصنوعی می‌تواند سوگیری‌های مدل مولد را به ارث ببرد و تقویت کند. مدل‌هایی که منحصراً روی دادهٔ مصنوعی آموزش می‌بینند ممکن است دچار «فروپاشی مدل» هم بشوند — افت تدریجی کیفیت در حالی که هر نسل از دادهٔ مصنوعی بیشتر از توزیع اصلی فاصله می‌گیرد.

DecAIHub کیفیت مجموعه‌داده را چگونه ارزیابی می‌کند؟

DecAIHub مستقیماً به مجموعه‌داده‌ها نمره نمی‌دهد. در عوض، به‌عنوان بخشی از ارزیابی کلی DecAI Fit بررسی می‌کند که آیا پروژه شواهد قابل راستی‌آزمایی از کار روی داده ارائه می‌دهد یا نه. شواهدی که به ai_score کمک می‌کنند شامل کارت‌های دادهٔ منتشرشده، روش‌شناسی مستند گردآوری، آمار نمونه‌ها، مخازن عمومی و نتایج بنچمارک روی مجموعه‌های ارزیابی شناخته‌شده است. ادعاهای «دادهٔ اختصاصی» یا «مجموعه‌دادهٔ عظیم» بدون artifactهای پشتیبان غیرقابل تأیید تلقی می‌شوند و نمره را بالا نمی‌برند. چارچوب شواهد Tier-1/2/3 تعریف می‌کند چه چیزی اثبات به شمار می‌آید.

همچنین ببینید

منابع خارجی

  • Hugging Face -- Datasets -- بزرگ‌ترین مخزن باز مجموعه‌داده‌های یادگیری ماشین، با جست‌وجو، فیلتر، پیش‌نمایش و مستندات برای هزاران مجموعه‌داده.
  • Papers With Code -- Datasets -- کاتالوگ مجموعه‌داده‌های پیونددار به نتایج بنچمارک و مقالات پژوهشی، قابل جست‌وجو بر اساس وظیفه و دامنه.
  • Stanford HAI -- AI Index Report -- داده‌های سالانه دربارهٔ رشد مجموعه‌داده‌ها، روندهای حاکمیت داده و نقش داده در پیشرفت AI.
  • Google Research -- Dataset Search -- موتور جست‌وجوی ویژهٔ مجموعه‌داده‌های منتشرشده در سراسر وب، شامل منابع دانشگاهی، دولتی و تجاری.
  • Wikipedia -- Training data -- توضیح بنیادین دربارهٔ تقسیم‌های دادهٔ آموزش، اعتبارسنجی و آزمون و نقش آنها در یادگیری ماشین.