Koopa.ai Agentic AI Architect Calendar Contact

(02) Proof of work

AI operations console

An agent that administers a Linux server fleet through an audited SSH gateway. Read-only checks run at once; every change waits for human approval.

AI 运维控制台

通过带审计的 SSH 网关管理 Linux 服务器集群的智能体。只读检查立即执行;任何改动都要等人批准。

AI 維運控制台

透過具稽核功能的 SSH 閘道管理 Linux 伺服器群的代理。唯讀檢查立即執行;任何更動都要等人核准。

InfrastructureAuditedAzureAWS

What it is

A harness that turns an AI agent into a careful systems administrator. The administrator types requests in plain English; the agent runs them across the server fleet through a gateway that classifies, logs and, where necessary, blocks each command.

It runs against the company's private LLM by default, with a cloud model available for non-sensitive work.

What it does

  • Fleet health in one screen: disk, memory, services and container status across every server, asked in one sentence.
  • Security checks: vulnerability-assessment scripts and CIS Level 1 audits, reported per server.
  • Routine operations: updates, file transfers, container deployment and container updates, with a backup prompt before anything risky.
  • Firewall requests raised as tickets in the company's ticketing system, through a browser session the human signs in to.
  • A library of skills, one per duty, that loads only when needed so a small local model is not overloaded.

How it works

  1. The agent proposes a command for a named server.
  2. The gateway classifies it against an allowlist of known read-only commands. Anything unknown, hidden or substituted is treated as a change.
  3. Read-only commands run immediately. A change is blocked until the human approves it and it is re-run with an explicit confirm flag.
  4. Every command and its result are written to a dated audit log; remote output is capped so one verbose command cannot flood the session.
  5. Credentials never pass through the chat: SSH keys, sudo and API keys live in the operating system's credential store.

Design choices

  • Guardrails in the code, not in the prompt: a small model can ignore instructions, so the gateway enforces the rules itself.
  • Fail closed: the allowlist decides what is safe; everything else needs a person.
  • Fleet-wide queries are read-only by design; a single approval can never touch every server at once.
  • Two editions, PowerShell and Python, so the console works even where one of them is restricted.

Stack

Azure CLIAWS SAMPythonparamikoPowerShellPlaywrightWindows Credential ManagerLocal LLM via LiteLLM

这是什么

一个把 AI 智能体变成谨慎系统管理员的框架。管理员用自然语言提出请求,智能体通过网关在服务器集群上执行;网关会对每条命令分类、记录,必要时拦截。

默认使用公司的私有 LLM,非敏感工作也可切换到云端模型。

它能做什么

  • 一屏看全集群健康:磁盘、内存、服务和容器状态,一句话问遍所有服务器。
  • 安全检查:漏洞评估脚本和 CIS Level 1 审计,逐台出报告。
  • 日常运维:系统更新、文件传输、容器部署与升级,高风险操作前先提示备份。
  • 防火墙申请自动在公司工单系统里开单,用的是人登录过的浏览器会话。
  • 按职责划分的技能库,用到时才加载,不让小型本地模型负担过重。

如何运作

  1. 智能体针对指定服务器提出一条命令。
  2. 网关用已知只读命令的白名单分类;未知、隐藏或带替换的命令一律视为改动。
  3. 只读命令立即执行;改动类命令被拦下,等人批准后再带确认标志重新执行。
  4. 每条命令及其结果写入按日期归档的审计日志;远端输出有上限,一条啰嗦的命令不会淹没整个会话。
  5. 凭据从不经过对话:SSH 密钥、sudo 和 API 密钥都存在操作系统的凭据管理器里。

设计取舍

  • 护栏写在代码里而不是提示词里:小模型可能无视指令,所以规则由网关自己执行。
  • 默认拒绝:白名单决定什么是安全的,其余都要人来定。
  • 全集群查询设计上只读;一次批准永远不可能同时碰到所有服务器。
  • PowerShell 和 Python 两个版本,其中一个受限时另一个照样能用。

技术栈

Azure CLIAWS SAMPythonparamikoPowerShellPlaywrightWindows Credential ManagerLocal LLM via LiteLLM

這是什麼

一個把 AI 代理變成謹慎系統管理員的框架。管理員用自然語言提出請求,代理透過閘道在伺服器群上執行;閘道會對每條指令分類、記錄,必要時攔截。

預設使用公司的私有 LLM,非敏感工作也可切換到雲端模型。

它能做什麼

  • 一個畫面看完整個伺服器群的健康狀態:磁碟、記憶體、服務與容器狀態,一句話問遍所有伺服器。
  • 安全檢查:弱點評估腳本與 CIS Level 1 稽核,逐台產出報告。
  • 日常維運:系統更新、檔案傳輸、容器部署與升級,高風險操作前先提示備份。
  • 防火牆申請自動在公司工單系統裡開單,使用的是人登入過的瀏覽器工作階段。
  • 依職責劃分的技能庫,用到時才載入,不讓小型本地模型負擔過重。

如何運作

  1. 代理針對指定伺服器提出一條指令。
  2. 閘道用已知唯讀指令的允許清單分類;未知、隱藏或帶替換的指令一律視為更動。
  3. 唯讀指令立即執行;更動類指令被攔下,等人核准後再帶確認旗標重新執行。
  4. 每條指令及其結果寫入依日期歸檔的稽核日誌;遠端輸出有上限,一條冗長的指令不會淹沒整個工作階段。
  5. 憑證從不經過對話:SSH 金鑰、sudo 與 API 金鑰都存在作業系統的憑證管理員裡。

設計取捨

  • 護欄寫在程式碼裡而不是提示詞裡:小模型可能無視指令,所以規則由閘道自己執行。
  • 預設拒絕:允許清單決定什麼是安全的,其餘都要人來決定。
  • 整群查詢設計上為唯讀;一次核准永遠不可能同時碰到所有伺服器。
  • PowerShell 與 Python 兩個版本,其中一個受限時另一個照樣能用。

技術堆疊

Azure CLIAWS SAMPythonparamikoPowerShellPlaywrightWindows Credential ManagerLocal LLM via LiteLLM

(07) Contact

Let's talk