Жергілікті шлюз деректер егемендігіне кепілдік бермейді

Жергілікті API шлюзі жүйеге кіретін нүктені бақылауға мүмкіндік береді, бірақ деректер егемендігін өздігінен сақтамайды. Шлюз промптты шетелдік провайдерге жіберсе, мәтін кем дегенде өңдеу кезінде жергілікті контурдан шығады. Провайдер ештеңе сақтамайтынын айтса да, мұндай сұлбада «деректер өзімізде қалады» деу шындыққа жанаспайды.

Талас көбіне «сақтау» деген сөзге тіреледі. Команда жергілікті логтар базасын көрсетіп, мәселе жабылды деп санайды. Бірақ шетелдегі модель мәтінді алады, желілік қабат мекенжайлар мен тақырыптарды көреді, қауіпсіздік жүйелері сұратымды талдайды, ал сақтық көшірмелер басқа қызметтің ережесіне бағынуы мүмкін. Жинақтауды, беруді, өңдеуді, уақытша кэштеуді және қызметкерлердің қол жеткізуін бөлек тексеру керек.

Әр дерек сыныбы үшін өңдеу орны, алушы, әр көшірменің өмір сүру мерзімі және жойылғанын дәлелдеу тәсілі белгілі болса ғана контурды жергілікті деп санаймын. Осы картаның бір жолы белгісіз болса, архитектурада егемендік емес, тексерілмеген жорамал бар.

Шлюз бағытты басқарады, бүкіл өңдеуді емес

Жергілікті шлюз сұратымның қайда кететінін, қандай өрістерді өткізетінін және өз журналдарына не жазатынын анықтайды. Ол модельдің орындалатын жерін, сыртқы провайдердің ережелерін немесе оның қосалқы жүйелерінің географиясын өзгертпейді.

Командалар жиі араластыратын үш қасиетті бөліп қараңыз. Data residency деректердің қайда сақталатынын көрсетеді. Өңдеудің жергіліктілігі нәтиженің қайда есептелетінін көрсетеді. Деректер егемендігі бұдан кең: деректерді қай юрисдикцияда кім басқарады, оған кім қол жеткізе алады, қандай көшірмелер пайда болады және ұйым өз ережелерінің орындалғанын дәлелдей ала ма. Жергілікті журнал бір көшірменің residency талабын орындайды. Ол шетелдік API кезегіндегі көшірме туралы ештеңе айтпайды.

Әдеттегі сұратымда қолданба Қазақстан ішіндегі шлюзбен TLS байланысын орнатады. Шлюз клиентті аутентификациялайды, лимит қолданады, кейде өрістерді бүркемелейді, содан кейін провайдермен екінші TLS байланысын ашады. Шифрлау жолдағы екі арнаны да қорғайды. Әр соңғы нүктеде мәтін өңдеу үшін ашылады. Сондықтан «бәрі шифрланған» деген сөз шетелдік тарап промптты көрмегенін дәлелдемейді.

Кері бағыт та бар. Модель жасаған жауапта контекстен қалпына келтірілген бастапқы деректер болуы мүмкін: сұрақтағы пациенттің аты, нұсқаудағы шарт нөмірі, ішкі хат алмасудың үзіндісі. Бұл жауап провайдердің сүзгілерінен, шлюзден және қолданба журналдарынан өтеді. Карта тек шығыс промптты емес, кіріс пен шығысты да қамтуы керек.

Практикалық тексеріс оңай. Сыртқы оператор тапсырманы орындау үшін ашық мәтінді алуы керек болса, өңдеу жергілікті контурдан тыс өтті. Шарт оны рұқсат етілген ете алады. Техникалық сұлба тәуекелді азайта алады. Бірақ мұндай өңдеуді жергілікті деп атауға болмайды.

Сұратымда төрт бөлек ағын бар

Төрт ағынды тексеру керек: мазмұн, метадеректер, телеметрия және ұзақ сақталатын көшірмелер. Олардың алушылары мен өмір сүру мерзімдері әртүрлі, сондықтан «оқыту үшін қолданылмайды» деген бір белгі мәселені жаппайды.

Мазмұнға жүйелік промпт, пайдаланушы хабарламалары, RAG құжаттары, құрал шақыруларының нәтижелері және модель жауабы кіреді. Мультимодаль сұратымда бұған кескіндер, аудио және олардан алынған мәтін қосылады. Командалар көбіне messages өрісін бүркемелейді, бірақ жеке деректер файл атауына, құрал сипаттамасына немесе қате туралы диагностикалық үзіндіге кіргенін ұмытады.

Бос промпттың өзінде метадеректер пайда болады. Оларға жоба идентификаторы, API кілті немесе оның таңбасы, IP мекенжайы, өңір, модель атауы, токен саны, сұратым уақыты, қате коды және трассировка идентификаторы жатады. Әрқайсысы жеке алғанда зиянсыз көрінеді. Ал бөлімше идентификаторы, сұратым жиілігі және медициналық мәтінге арналған модель бірге жүйенің мақсатын немесе нақты жұмыс процесін ашуы мүмкін.

Телеметрия жүктеме теңгергіштерінде, WAF, APM, трассировкаларда, шығын есептегіштерінде және теріс пайдалануды анықтау жүйелерінде жүреді. Шлюз промпттарды жазбауы мүмкін, бірақ бақылау кітапханасы қате кезінде HTTP сұратымның денесін автоматты түрде сақтайды. Қолданбаның ұқыпты саясаты ешкім деректер сұлбасына қоспаған агент баптауынан осылай жеңіледі.

Ұзақ сақталатын көшірмелер сақтық көшірмелерде, кейінге қалдырылған кезектерде, промпт кэштерінде, бағалау жиынтықтарында, қолдау қызметінің экспорттарында және апат дамптарында пайда болады. Негізгі кестенің сақтау мерзімі дискінің суретіне жүрмейді. Жазбаны бүгін жою тұтас қалпына келтірілетін сақтық көшірмеден де жоғалды дегенді білдірмейді.

Әр ағын үшін төрт өрісті толтырыңыз: бастапқы дерек сыныбы, жіберу алдындағы өзгеріс, барлық алушы және ең ұзақ өмір сүру мерзімі. Бос unknown өрісі ойдан шығарылған 0 days мәнінен пайдалырақ: ол бағытты әзірге мақұлдауға болмайтынын анық көрсетеді.

Шетелдегі генерация шекарадан міндетті түрде өтеді

Модель шетелде орындалып, пайдалы жүктемені алса, провайдер нөлдік сақтау режимін мәлімдесе де, трансшекаралық беру және сыртқы өңдеу жүреді. Нөлдік сақтау өңдеуден кейінгі жағдайды сипаттайды, деректерді алу фактісін жоймайды.

Қазақстан Республикасының «Дербес деректер және оларды қорғау туралы» Заңы жинақтауды, сақтауды, пайдалануды, таратуды, иесіздендіруді және өңдеуді бөлек анықтайды. Архитектуралық шешім үшін бұл айырмашылық маңызды: провайдерде жинақтау болмаса да, өңдеу бар. Заңгерлер нақты деректер жиынтығын берудің құқықтық негізі мен шарттарын анықтауы керек, ал инженерлер оларға «бізде жергілікті endpoint бар» деген уәденің орнына дәл сұлба беруі қажет.

Жеткізуші тіркелген ел де толық жауап бермейді. Таңдалған модель орындалатын өңір, контентті сүзу өңірі, қауіпсіздік журналдарының орны, қолдау қызметінің орналасуы және қашықтан қол жеткізу ережелері керек. Ғаламдық API нүктесі өңірді өзі таңдауы мүмкін. Шоттағы өңір inference процесінің әр кезеңіне емес, басқару ресурсына қатысты болуы ықтимал.

Құпиялық парағындағы жалпы мәтінге сүйенбеңіз. Нақты қызметтің, модельдің, тарифтің және функцияның шарттарын тексеріңіз. Мысалы, Google Cloud zero data retention құжаттамасы теріс пайдалануды бақылауға арналған промпт журналын, жедел жадтағы кэшті және өз сақтау мерзімі бар grounding функцияларын бөлек сипаттайды. Microsoft компаниясының Azure Direct Models құжаттамасы автоматты талдауды, адам тексеруі үшін таңдалған промпттарды ықтимал сақтауды және мақұлданған клиенттерге арналған өзгертілген мониторинг режимін бөлек түсіндіреді. Мұндай бөлуді дұрыс деп санаймын: бренд деңгейіндегі уәде архитектуралық бақылау үшін тым жалпылама.

Рұқсат етілген беру мен жергілікті өңдеу екі бөлек мәртебе болып қалады. Шешімдер тізілімінде де солай жазыңыз: external_processing: approved, ал data_stays_local: true деп жазбаңыз. Шартқа қол қою екінші тұжырымды шын етпейді.

Бүркемелеу беру көлемін азайтады, географияны өзгертпейді

Бүркемелеу сыртқы провайдер адаммен немесе қорғалатын нысанмен орынды түрде байланыстыра алмайтын деректерді алғанда ғана көмектеседі. Контексті сақтап, бірнеше анық өрісті ауыстыру көбіне адамды қайта анықтау мүмкіндігін қалдырады.

Мына өтінішті қарастырайық: «12 мамырда сирек операциядан кейінгі асқыну туралы аудандық аурухананың бас дәрігеріне жауап дайында; пациент 14 жаста». Аты мен ЖСН жойылғаннан мәтін иесіз болып қалмайды. Адресаттың лауазымы, мекеме, күн, жас және сирек оқиға квази-идентификаторлар құрайды. Модель әлі де өте тар адамдар тобына қатысты мәліметті өңдеп отыр.

Жұмыс істейтін сұлба шлюзге дейін немесе сенімді аймақта токендеуді қолданады. Қолданба нақты мәндерді кездейсоқ токендермен ауыстырады, сәйкестік кестесін жергілікті жерде сақтайды және генерациядан кейін мәндерді тек рұқсат етілген жерде қайтарады. Токендер бастапқы мәнді кодтамауы керек, ал сыртқы сұратымда қалпына келтіру кілті болмауы қажет. Еркін мәтінге мәндерді анықтайтын құрал мен сала ережелері керек, себебі тұрақты өрнек ЖСН-ды табады, бірақ диагноз бен сирек жағдай сипаттамасын өткізіп алады.

Бүркемелеу сапасын өз корпусыңызда тексеріңіз. Аты-жөндер, мекенжайлар, шарт нөмірлері, диагноздар, ішкі кодтар және квази-идентификаторлар бар мысалдар жиынын жасаңыз. Әр мысал бойынша табылмай қалған және артық жойылған бөліктерді өлшеңіз. Жалғыз өткізіліп кеткен шот нөмірі беру ережесін бұзса, орташа дәлдік жұбатпайды.

Кей тапсырмалар бүркемелеуден кейін мағынасын жоғалтады. Тараптар мен сомалар арасындағы байланыс бұзылса, модель шартты дәл тексере алмайды. Мұндайда екі адал нұсқа бар: лайық модельді жергілікті контурда іске қосу немесе осы дерек сыныбына LLM қолданбау. «Бәрін жай ғана анонимдеңіз» деген кеңес бір бағытты сақтап қалуды уәде еткендіктен танымал. Нәтижеге контекст қажет немесе қайта анықтау мүмкін болса, бұл кеңес қате.

Провайдер саясаты машиналық ережеге айналуы керек

Команда шектеулерді тексерілетін бағдарлау саясатына айналдырғаннан кейін ғана шарт пен құжаттама пайда береді. Әйтпесе жаңа әзірлеуші қысқа атауымен тыйым салынған модельді таңдайды, ал резервтік бағыт келісілген өңірді білдірмей айналып өтеді.

Төменде ең аз саясат фрагменті берілген. Өріс атаулары шартты, бірақ әрекет нақты болуы керек: сыныптама мен бағыт үйлеспесе, шлюз сұратымды қабылдамайды.

data_classes:
  public:
    allowed_routes: [external, local]
  internal:
    allowed_routes: [external_zdr, local]
    require_redaction: true
  restricted:
    allowed_routes: [local]

routes:
  external_zdr:
    region_allowlist: [approved-region]
    prompt_retention: none
    training_use: disabled
    human_review: disabled
    fallback: deny
  local:
    processing_country: KZ
    fallback: deny

prompt_retention: none өрісін сату менеджерінің сөзіне қарап толтырмаңыз. Шарттар нұсқасын, тексеру күнін, ерекшеліктер тізімін және баптау іске қосылғанының дәлелін тіркеңіз. Нөлдік сақтау үшін бөлек мақұлдау немесе функцияны өшіру қажет болса, команда басқару панелінен немесе API арқылы растауды көргенше мәртебе pending болып қалуы керек.

Оқытуды, теріс пайдалануды бақылауды, адамның тексеруін, қолдау қызметін, кэштеуді және диалог күйін сақтауды бөлек қараңыз. Оқытуға тыйым қауіпсіздік журналын тыймайды. Негізгі inference үшін нөлдік мерзім batch, assistants, grounding, файлдар немесе fine-tuning функцияларына жүрмеуі мүмкін. Екі делдалдағы бірдей модель атауы бірдей шарттар бар дегенді білдірмейді.

Саясат белгісіз жағдайда рұқсат бермеуі керек. Сыныптағыш қолжетімсіз, өңір белгісіз немесе рұқсат етілген бағыт лимитін тауысып қойса, сұратым «жұмыс істеп тұрған кез келген модельге» кетпеуі тиіс. Қолжетімділік қажет, бірақ ол жүйеге өңдеу шекарасын өзгерту құқығын бермейді.

Резервтік бағыт уәдені жиі бұзады

Failover қызметтің жұмысын сақтайды, бірақ деректерді келісілген контурдан көбіне дәл осы тетік шығарады. Негізгі бағыт аудиттен өтеді, ал алғашқы ақаудан кейін резервтік бағыт түнде қосылып, кең баптаумен қалып қояды.

Ақауды уақыт ретімен талдаңыз. Қолданба сұратымды жергілікті модельге жібереді. Ол баяу жауап береді, клиент кітапханасы timeout болды деп шешеді, бірақ сервер есептеуді жалғастырады. Шлюз сол промптты сыртқы провайдерде қайталайды. Енді деректі екі модель өңдеді, ал кешіккен жергілікті жауап журналға «белгісіз қате» болып түсуі мүмкін. Қайталау әрекеттерінің ортақ идентификаторы болмаса, аудит өзара байланысы жоқ екі оқиғаны көреді.

Мұндай ақаудың төрт қолайсыз салдары бар. Команда алушылардың нақты тізімін жоғалтады. Бір сұратым бірнеше көшірме жасайды. Биллинг пен метрикалар шын себепті көрсетпейді. Пайдаланушы өңдеу режимінің өзгергенін білмейді. Мұның бәрі клиент кодын өзгертпей болады.

Жабық деректерге fallback: deny қойыңыз. Сезімталдығы төмен сыныптарға резервтік бағытты бірдей шарттар тобында ғана рұқсат етіңіз: рұқсат етілген география, сақтау мерзімі, тексеру режимі және функциялар жиыны өзгермеуі керек. Бағыттарды модель сапасымен емес, саясатымен салыстырыңыз.

Қайталау әрекеттеріне шлюз деңгейіндегі идемпотентті идентификатор және әр талпыныстың жазбасы керек. Журналда бастапқы request ID, талпыныс нөмірі, таңдалған бағыт, ауысу себебі, дерек сыныбы және саясат нәтижесі болғаны жөн. Промпттың өзі қажет емес. Осылай команда тағы бір мазмұн көшірмесін жасамай, сұратымның қайда жіберілмек болғанын дәлелдейді.

Кэш те бағыт саналады. Semantic cache модельді шақырмай жауап беруі мүмкін, бірақ оның векторлық көрінісі мен сақталған жауабы дерек күйінде қалады. Индекстің орнын, клиенттердің оқшаулануын, TTL, сақтық көшірмесін және жойылуын тексеріңіз. Жергілікті шлюздегі кэш жергілікті жерде сақталып, өмір сүру мерзімі анық болғанда ғана бақылауды күшейтеді.

Аудитке скриншот емес, оқиғалар керек

Егемендіктің дәлелі әр сұратым бойынша жиналып, автоматты түрде тексерілуі керек. Баптаудың скриншоты интерфейстің бір сәттегі күйін көрсетеді, бірақ кешегі шақырудың бағытын дәлелдемейді.

Шешім оқиғасын промпт мазмұнынсыз жазыңыз. Мұндай JSON-ды жергілікті өзгермейтін қоймаға жіберіп, қолданба журналымен байланыстыруға болады:

{
  "request_id": "01J...",
  "data_class": "restricted",
  "policy_version": "2026-07-27.3",
  "route": "local-qwen",
  "processing_country": "KZ",
  "content_logged": false,
  "fallback": "deny",
  "decision": "allow",
  "reason": "class_route_match"
}

Қабылданбаған сұратымның пішімі де сондай болып, decision: "deny" және нақты себеп жазылуы керек. Сонда аудит тесті платформа иесімен әңгімеге емес, оқиғаларға жасалған сұрауға айналады. Мысалы, restricted сыныбындағы елі KZ емес, бағыты external сөзінен басталатын немесе саясат нұсқасы жоқ барлық оқиғаны табыңыз. «Жабық деректер елден шықпайды» деген мәлімдеме үшін күтілетін нәтиже нөл жол болуы керек.

Шлюз журналының өзі жеткіліксіз. Оны сыртқа шығатын желілік ағындармен, провайдер шоттарымен және модель метрикаларымен салыстырыңыз. Провайдер токендер үшін шот ұсынса, ал жергілікті журнал сұратымды білмесе, жүйені айналып өтетін жол немесе бақылауда бос орын бар. Шлюз сыртқы шақыруды жазып, желілік бақылау оны көрмесе, телеметрия экспорты мен сағаттарға сенімді тексеріңіз.

Журналдың өзін де қорғаңыз: жазу мен оқуға бөлек құқықтар, уақытты синхрондау, қолтаңба немесе өзгермейтін қойма, шектеулі мерзім, идентификаторларды бүркемелеу. Толық промпттары бар аудит-лог жүйедегі ең толық, сондықтан ең қауіпті базаға айналады. Мазмұнды емес, шешім мен ең аз метадеректі сақтаңыз.

Әр релизде теріс тесттерді іске қосыңыз. Синтетикалық жабық сұратым жіберіңіз, жергілікті модельді өшіріңіз, рұқсат етілген провайдердің лимитін тауысыңыз және конфигурациядағы өңірді ауыстырыңыз. Жүйе әр әрекеттен бас тартып, журнал әр бас тартудың себебін түсіндіруі тиіс. Сәтті happy path шекараны тексермейді.

Рұқсат дерек сыныбы мен мақсатқа тәуелді

Ұйым деректер құрамын білсе, құқықтық негізі болса, алушыларды келіссе және бағытты осы шарттарда техникалық түрде ұстаса, шетелдегі генерацияға рұқсат берілуі мүмкін. Барлық промптқа ортақ бір жауап жоқ.

Шарт талаптарын тексергеннен кейін жария контентті сыртқы модельге көбіне жіберуге болады. Бұған жарияланған материалдар, баршаға ашық нұсқаулар және жасырын идентификаторлары жоқ синтетикалық тесттер кіреді. Мұндайда да ішкі кілттерді, трассировкаларды және қызметтік жүйелік промпттарды бермеңіз: жария құжат бүкіл сұратымды жария етпейді.

Ішкі деректердің мақсатын бағалап, көлемін азайту қажет. Маркетинг мәтінінің нобайы мен қаржылық болжам ашылғанда әртүрлі зиян келтіреді, бірақ екеуінде де internal белгісі болуы мүмкін. Салалық ішкі сыныптарды қосыңыз: коммерциялық құпия, дербес деректер, банк құпиясы, медициналық мәлімет және мемлекеттік дерек. Белгі мәтінді алғаннан кейін модельдің жорамалымен емес, бастапқы жүйеден келуі керек.

Жабық деректерді саясат тікелей рұқсат еткен бағытқа ғана жіберіңіз. Ереже Қазақстанда өңдеуді талап етсе, модель Қазақстанда орындалуы, ал оның журналдары, кэштері, сақтық көшірмелері және әкімшілік қолжетімділігі сол шешімге сай болуы керек. Сыртқы inference алдындағы жергілікті шлюз бұл талапты орындамайды.

Мақұлдау шешімін қысқа жазбаға тіркеу ыңғайлы: өңдеу мақсаты, өрістер сыныбы, алушылар мен қосалқы өңдеушілер, елдер, әр көшірменің мерзімі, оқыту және мониторинг режимі, берудің негізі, тәуекел иесі, қайта қарау күні. Ерекшеліктерді шарт қосымшасына жасырмаңыз. Оларды бағыт шектеулері мен тесттерге көшіріңіз.

Заңгер рұқсатты анықтайды, дерек иесі қалған тәуекелді қабылдайды, инженер нақты жолды дәлелдейді. Инженер беруді өз бетімен заңды деп жарияласа немесе заңгер презентацияға қарап техникалық бағытты жорамалдаса, ұйым тексерілетін негізі жоқ сенімді жауап алады.

Қосалқы өңдеушілер қолжетімділік шекарасын кеңейтеді

Мазмұнды немесе қалпына келетін туындыны алатын әр қосалқы өңдеуші нақты өңдеу шекарасына кіреді. Архитектура сұлбасындағы модель жеткізушісінің атауы бүкіл тізбекті сипаттамайды.

Бір API артында бөлек бұлт операторы, контентті сүзу қызметі, теріс пайдалануды анықтау жүйесі, бақылау жеткізушісі және қолдау қызметі тұруы мүмкін. Бір қатысушы толық промптты көреді, екіншісі таңдалған үзінділерді, үшіншісі метадеректерді көреді. Бағалауға барлық қатысушы мен олардың рөлі қажет. Провайдер шарт бойынша басқа компанияларды тарта алса, «деректер модель провайдеріне беріледі» деген тұжырым тым қысқа.

Қосалқы өңдеушілердің қазіргі тізімін сұрап, оны нақты қызметпен байланыстырыңыз. Ірі бұлттың жалпы тізімінде сіздің бағытыңызға қатысы жоқ ондаған компания болуы мүмкін, сондықтан тізілімге берілген бір сілтеме жеткіліксіз. Жеткізуші inference, қауіпсіздік, қолдау және апаттан қалпына келтіру жұмысын алушылардың қай санаты атқаратынын, олардың қай елдерде жұмыс істейтінін және қандай қолжетімділік алатынын түсіндіруі керек. Тізім нұсқасын және өзгеріс туралы хабарлау тәртібін тіркеңіз.

Тізбекті сенім ретімен сызыңыз: қолданба, жергілікті шлюз, бағдарлау делдалы, провайдер endpoint, сүзгі, модель, қауіпсіздік журналы, резервтік жүйе, қолдау қызметі. Әр ауысуда ашық мәтін, псевдонимделген мәтін, метадерек немесе агрегат берілетінін көрсетіңіз. Бұл белгі рөлдің заңдық атауынан маңыздырақ. Request ID алатын компания мен инженері осы ID арқылы сақталған промптты аша алатын компанияның мүмкіндігі бірдей емес.

Қолдау қызметі қалыпты желілік ағыннан көрінбейтін бөлек жол жасайды. Әзірлеуші қате алып, промптты тикетке көшіреді, трассировканы тіркейді де, деректерді басқа өңірі мен сақтау мерзімі бар жүйеге жібереді. Жабық сыныптар үшін тикеттерде мазмұнды мысал қолдануға тыйым салыңыз. Диагностикаға request ID, қате коды, бағыт нұсқасы және синтетикалық мысал жіберіңіз. Провайдерге нақты payload қажет болса, оны иесі, мерзімі және расталған жойылуы бар бөлек беру деп рәсімдеңіз.

Қосалқы өңдеушілер тізімі өзгереді. Өзгерісті тексеруді бағыттың өмірлік цикліне қосыңыз: жаңа атау, ел немесе мақсат сыртқы конфигурацияны қайта қарау күйіне ауыстырады. Жария деректер үшін бағыт жұмысын жалғастыра алады, ал реттелетін сыныптарға бағалау аяқталғанша уақытша тыйым салған жөн. Тізімді автоматты импорттау шешімнің орнын баспайды, бірақ өзгерістің электрондық поштада жоғалуына жол бермейді.

Жою да бүкіл тізбекпен өтеді. Провайдер белсенді жазбаны бірден өшіріп, оны цикл аяқталғанша оқшауланған сақтық көшірмеде қалдырып, қалпына келтіруді тек апат жағдайымен шектеуі мүмкін. Бұл бірден физикалық жоюмен бірдей емес. Нақты тетікті, ең ұзақ мерзімді, қалпына келтіру кезіндегі әрекетті және қалпына келгеннен кейін жоюды қайта қолдану тәсілін жазыңыз. Жеткізуші әр деңгей бойынша жауап бере алмаса, дәлелденетін жоюды қажет ететін деректерді оған бермеңіз.

Желілік allowlist шлюздің қай endpoint нүктесімен байланысқанын растайды. Ол сұратым қабылданғаннан кейінгі ішкі ауысуларды көрсетпейді. Сондықтан дәлел екі бөліктен тұрады: сіздің оқиғаларыңыз бен желілік ағындарыңыз нақты жіберуді растайды, ал жеткізушінің шарты, баптауы және есебі кейінгі өңдеуді сипаттайды. Екі бөліктің бірі екіншісін алмастырмайды.

Егемендікті модельді ауыстырып тексеріңіз

Дұрыс архитектура модель, провайдер және ақау режимі ауысқанда ережелерін сақтайды. Егемендік презентациядағы бір тариф атауына тәуелді болса, каталогтың келесі жаңартуында жоғалады.

Әр модель нұсқасын inference орнына, сақтау шартына, функцияларға, қосалқы өңдеушілерге және қайта тексеру күніне байланыстыратын бағыттар тізілімін жасаңыз. Шлюз бағытқа тұрақты саясат идентификаторы арқылы ғана рұқсат етеді. Шарттары бекітілмеген best-model бүркеншік аты реттелетін деректерге жарамайды: бүгін ол жергілікті модельді көрсетеді, ертең оңтайландырғыш шетелдік модельді таңдайды.

Ауыстыру тестін өткізіңіз. Әр сыныптан бір синтетикалық сұратым алып, негізгі модельді, өңірді, кэш режимін және fallback бағытын кезекпен өзгертіңіз. Әр өзгерістен кейін саясат шешімін, сыртқа шығатын желілік ағынды және аудит оқиғасын тексеріңіз. Модельді ауыстырғанда біреу құқықтық шектеуді қолмен еске түсіруі керек болса, бақылау әлі де адамдардың жадында ғана тұр.

AI Router мұндай бағыттарды бір OpenAI-үйлесімді endpoint арқылы бөлуге мүмкіндік береді: рұқсат етілген сыныптарға сыртқы модельдерді пайдаланып, жергілікті өңдеу қажет деректерге Қазақстандағы өз GPU-инфрақұрылымындағы open-weight модельдерді тағайындауға болады. PII бүркемелеу, аудит-логтар және кілт деңгейіндегі лимиттер саясатты орындауға көмектеседі, бірақ сыныптама мен рұқсат етілген бағыттарды ұйымның өзі анықтайды.

«Шлюз жергілікті» деген жалғыз жасыл мәртебе бермеңіз. Сыныптар бойынша матрица жариялаңыз: жергілікті сақтау, жергілікті өңдеу, сыртқы өңдеуге рұқсат, сыртқы өңдеуге тыйым. Мұндай мәртебе жеткізуші ауысқанда сақталып, дерек иесін жаңылыстырмайды.

Контур шекарасы клиент қолданбасы қарайтын мекенжаймен өтпейді. Ол ашық мәтінді, туынды деректерді немесе қалпына келетін көшірмені алатын соңғы жүйе арқылы өтеді. Команда осы жүйені атап, бағдарлау ережесін көрсетіп, теріс аудиттен нөл нәтиже алған кезде егемендік туралы мәлімдеме тексеріледі. Қалған жағдайда ол уәде күйінде қалады.