没有 Google 云存储的 Kubeflow

tec*_*495 2 google-cloud-storage google-cloud-platform kubernetes kubeflow kubeflow-pipelines

是否可以用替代的本地解决方案替换 Google Cloud Storage 存储桶的使用,以便可以完全独立于 Google Cloud Platform 运行 Kubeflow Pipelines 等?

The*_*tou 5

对的,这是可能的。您可以使用minio,它类似于 s3/gs 但它在本地存储的持久卷上运行。

以下是有关如何将其用作 kfserving 推理存储的说明:

验证 minio 是否正在您的 kubeflow 安装中运行:

$ kubectl get svc -n kubeflow |grep minio
minio-service                                  ClusterIP   10.101.143.255   <none>        9000/TCP            81d
Run Code Online (Sandbox Code Playgroud)

为您的 minio 启用隧道:

$ kubectl port-forward svc/minio-service -n kubeflow 9000:9000
Forwarding from 127.0.0.1:9000 -> 9000
Forwarding from [::1]:9000 -> 9000
Run Code Online (Sandbox Code Playgroud)

浏览http://localhost:9000以访问 minio UI 并创建存储桶/上传模型。证书minio/minio123。或者,您可以使用以下mc命令从终端执行此操作:

$ mc ls minio/models/flowers/0001/
[2020-03-26 13:16:57 CET]  1.7MiB saved_model.pb
[2020-04-25 13:37:09 CEST]      0B variables/
Run Code Online (Sandbox Code Playgroud)

创建一个secret&serviceaccount用于minio访问,注意s3-endpoint定义了minio的路径,keyid&acceskey是base64编码的凭证:

$ kubectl get secret mysecret -n homelab -o yaml
apiVersion: v1
data:
  awsAccessKeyID: bWluaW8=
  awsSecretAccessKey: bWluaW8xMjM=
kind: Secret
metadata:
  annotations:
    serving.kubeflow.org/s3-endpoint: minio-service.kubeflow:9000
    serving.kubeflow.org/s3-usehttps: "0"
  name: mysecret
  namespace: homelab

$ kubectl get serviceAccount -n homelab sa -o yaml
apiVersion: v1
kind: ServiceAccount
metadata:
  name: sa
  namespace: homelab
secrets:
- name: mysecret
Run Code Online (Sandbox Code Playgroud)

最后,创建inferenceservice如下:

$ kubectl get inferenceservice tensorflow-flowers -n homelab -o yaml
apiVersion: serving.kubeflow.org/v1alpha2
kind: InferenceService
metadata:
  name: tensorflow-flowers
  namespace: homelab
spec:
  default:
    predictor:
      serviceAccountName: sa
      tensorflow:
        storageUri: s3://models/flowers
Run Code Online (Sandbox Code Playgroud)


归档时间:

查看次数:

1024 次

最近记录:

5 年,5 月 前