يمكن أن تجعل ميزات الذكاء الاصطناعي مشروعًا مفتوح المصدر. على الأقل ، حتى يسأل الإعداد عن مفتاح API للاستدلال المدفوع. يتطلب مطالبة المساهمين أو حتى المستخدمين غير العاديين إحضار مفتاح نموذج اللغة الكبير (LLM) عن اعتماد التبني في مساراتها:

$ my-cool-ai-tool
Error: OPENAI_API_KEY not found

قد لا يرغب المطورون في شراء خطة مدفوعة الأجر لمجرد تجربة أداتك ، ويمكن أن تكون استضافة النموذج ذاتيًا ثقيلة للغاية بالنسبة لأجهزة الكمبيوتر المحمولة أو المتسابقين في إجراءات GitHub.

يحل نماذج Github هذا الاحتكاك باستخدام واجهة برمجة تطبيقات مجانية ومتوافقة مع كل حساب يمكن أن يستخدمه كل حساب Github بدون مفاتيح جديدة أو لوحات مفاتيح أو SDKs المطلوبة. في هذه المقالة ، سوف نوضح لك كيفية إسقاطه في مشروعك ، وتشغيله في CI/CD ، وتوسيع نطاقه عندما ينطلق مجتمعك.

لنقفز.

التكلفة الخفية لـ “فقط أضف الذكاء الاصطناعي”

تشعر ميزات الذكاء الاصطناعى في كل مكان اليوم ، لكن جعلها تعمل محليًا لا يزال يمثل تحديًا لعدة أسباب:

• واجهات برمجة التطبيقات المدفوعة: أبسط مسار هو مطالبة المستخدمين بمفتاح Openai أو Anthropic. هذا غير مستمر للعديد من الهواة والطلاب لأن واجهات برمجة التطبيقات المدفوعة باهظة الثمن.
• النماذج المحلية: يمكن أن يعمل تشغيل 2 B-Parameter LLM في مهام خفيفة الوزن ، ولكن أي شيء يتطلب المزيد من الذكاء سوف ينفجر بسرعة في ذاكرة الكمبيوتر المحمول النموذجية-ناهيك عن حاوية 14 جيجابايت التي تدعم عداء إجراءات GitHub.
• صور وأوزان Docker: يمكنك تجميع طراز مع تطبيقك ، ولكن توزيع البالونات متعددة الأوزان Gigabyte التثبيت وتبطئ CI.

كل متطلبات إضافية تقوم بتصفية المستخدمين والمساهمين المحتملين. ما تحتاجه هو نقطة نهاية الاستدلال:

1. مجاني للمشاريع العامة
2. متوافق مع Openai SDKs الموجودة
3. متوفر أينما يتم تشغيل التعليمات البرمجية الخاصة بك ، مثل الكمبيوتر المحمول أو الخادم أو العداء

هذا ما توفره نماذج جيثب.

نماذج جيثب باختصار

• ما هو: نقطة نهاية الراحة التي تتحدث عن مواصفات الدردشة/الإكمال التي تعرفها بالفعل.
• ما تحصل عليه: مجموعة من النماذج المنسقة (GPT-4O ، Deepseek-R1 ، Llama 3 ، وأكثر) استضافتها Github.
• من يمكنه تسميته: أي شخص لديه رمز الوصول الشخصي github (PAT) ، أو مستودع github_token المدمج عند الاشتراك عبر الأذونات.
• كم يكلف: طبقة مجانية لجميع الحسابات الشخصية و OSS ORGS ؛ تقوم الطبقة المدفوعة المدفوعة بإلغاء تأمين إنتاجية أعلى ونوافذ سياق أكبر.

نظرًا لأن API يعكس Openai’s ، فإن أي عميل يقبل Baseurl سيعمل بدون تغييرات رمز. ويشمل ذلك Openai-JS أو Openai Python أو Langchain أو Llamacpp أو نص Curl الخاص بك.

كيفية البدء في نماذج جيثب

نظرًا لأن نماذج Github متوافقة مع Openai chat/completions API ، يمكن أن تستخدم كل استدلال تقريبًا SDK. للبدء ، يمكنك استخدام Openai SDK:

import OpenAI from "openai";

const openai = new OpenAI({
  baseURL: "https://models.github.ai/inference/chat/completions",
  apiKey: process.env.GITHUB_TOKEN  // or any PAT with models:read
});

const res = await openai.chat.completions.create({
  model: "openai/gpt-4o",
  messages: ({ role: "user", content: "Hi!" })
});
console.log(res.choices(0).message.content);

إذا قمت بكتابة برنامج AI Open Source مع طرز GitHub كمزود استدلال ، فسيتمكن جميع مستخدمي GitHub من التشغيل والتشغيل معه فقط عن طريق توفير رمز الوصول الشخصي لـ GitHub (PAT).

وإذا تم تشغيل برنامجك في إجراءات GitHub ، فلن يحتاج المستخدمون حتى إلى توفير PAT. عن طريق طلب models: read الإذن في ملف سير العمل الخاص بك ، سيكون لدى الرمز المميز لـ GitHub أذونات لتقديم طلبات الاستدلال إلى نماذج github. هذا يعني أنه يمكنك إنشاء مجموعة كاملة من الإجراءات التي تعمل بالنيابة التي يمكن مشاركتها وتثبيتها بنقرة واحدة. على سبيل المثال:

• مراجعة الكود أو روبوتات فرز العلاقات العامة
• قضية ذكية وضع علامات سير العمل
• مولدات تقرير نشاط المستودع الأسبوعي
• وأي شيء آخر يمكن أن يفعله عمل github

بالإضافة إلى ذلك ، فإن استخدام نماذج GitHub يجعل من السهل على المستخدمين إعداد استدلال الذكاء الاصطناعي. وهذا له تأثير إيجابي آخر: إنه أسهل بالنسبة لك المساهمين لإعداد استنتاج الذكاء الاصطناعى كذلك. عندما يتمكن أي شخص لديه حساب GitHub من تشغيل نهاية الشفرة إلى النهاية ، ستتمكن من الحصول على مساهمات من مجموعة كاملة من مستخدمي GitHub ، وليس فقط الذين لديهم مفتاح OpenAI.

تكوين الصفر CI مع إجراءات github

نشر إجراء يعتمد على الذكاء الاصطناعى المستخدمة لمطالبة المستخدمين بإضافة مفتاح API للاستدلال باعتباره سرا إجراءات github. يمكنك الآن شحن تثبيت نقرة واحدة:

yaml 

# .github/workflows/triage.yml
permissions:
  contents: read
  issues: write
  models: read   # 👈 unlocks GitHub Models for the GITHUB_TOKEN

jobs:
  triage:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - name: Smart issue triage
        run: node scripts/triage.js

العداء GITHUB_TOKEN يحمل models:read النطاق ، بحيث يمكن لعملك استدعاء أي نموذج دون إعداد إضافي. هذا يجعله مناسبًا تمامًا لـ:

• ملخصات طلب السحب الآلي
• إصدار إلغاء البيانات الوهمية والعلامة
• هضم المستودعات الأسبوعية
• أي شيء آخر يمكنك السيناريو في إجراء ما

التحجيم عندما ينطلق مشروعك

واجهة برمجة تطبيقات GitHub Models API مجانية للجميع. ولكن إذا أرادت أنت أو المستخدمين القيام بمزيد من الاستدلال مما تسمح به حدود المعدل المجاني ، فيمكنك التشغيل الاستدلال المدفوع في الإعدادات الخاصة بك لنوافذ السياق الأكبر بشكل ملحوظ وطلبات أعلى في الدقيقة.

عندما ينمو مجتمعك ، سوف حركة المرور. لذلك من المهم مراعاة ما يلي:

• طلبات في الدقيقة (دورة في الدقيقة): في حين أن الطبقة المجانية تقدم حدود افتراضية ، فإن الطبقة المدفوعة تقدم مضاعفات أعلى.
• نافذة السياق: الطبقة الحرة تتصدر في حدود النموذج القياسية ؛ يتيح المدفوع 128 كيلو رموز على النماذج المدعومة.
• كمون: يتم تشغيل الطبقة المدفوعة في نشرها المنفصل ، لذلك لا تكون في قائمة الانتظار نفسها كمستخدمين مجانيين.

للبدء ، يمكنك تمكين الاستخدام المدفوع في الإعدادات> النماذج لمؤسستك أو مؤسستك. سيستمر عملائك الحاليون والرموز في العمل (لكنهم سيكونون أسرع ويدعمون سياقات أكبر).

خذ هذا معك

تقوم LLMs بتحويل كيفية إنشاء المطورين وشحنهم ، ولكن مطالبة المستخدمين بتزويد مفتاح API المدفوع الخاص بهم يمكن أن يكون عائقًا أمام الدخول. يحدث السحر فقط عندما يكون الأول npm installو cargo run، أو go test فقط يعمل.

إذا كنت تحافظ على قاعدة كود المصدر المفتوحة التي تعمل بالنيابة ، فيجب عليك التفكير في إضافة نماذج github كموفر استدلال افتراضي. لدى المستخدمين بالفعل استدلال AI مجاني عبر Github ، لذلك لا يوجد جانب سلبي يذكر للسماح لهم باستخدامه مع التعليمات البرمجية الخاصة بك. هذا صحيح مضاعف إذا كان مشروعك قادرًا على التشغيل في إجراءات GitHub. أفضل مفتاح API هو عدم وجود مفتاح API!

من خلال جعل الاستدلال عالي الجودة افتراضيًا مجانيًا لكل مطور على Github ، تتخلص نماذج Github من أكبر مانع لتبني OSS AI. وهذا يفتح الباب أمام المزيد من المساهمات ، وأسرع من المستخدمين ، والمستخدمين الأكثر سعادة.

تريد أن تجربها؟ تحقق من GitHub نماذج الوثائق أو القفز مباشرة إلى مرجع API وابدأ في شحن ميزات الذكاء الاصطناعي التي تعمل فقط اليوم.

---