Python实现上传Minio和阿里Oss文件
作者:剑客阿良_ALiang 发布时间:2023-10-29 11:04:07
标签:Python,Minio,阿里Oss,上传文件
前言
本文提供Python上传minio以及阿里oss文件工具,给自己留个记录。
环境依赖
安装minio以及oss2依赖
pip install minio -i https://pypi.douban.com/simple
pip install oss2 -i https://pypi.douban.com/simple
代码
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time : 2021/12/10 21:35
# @Author : 剑客阿良_ALiang
# @Site :
# @File : upload_tool.py
# !/user/bin/env python
# coding=utf-8
"""
@project : dh_train
@author : huyi
@file : remote_upload_util.py
@ide : PyCharm
@time : 2021-12-10 14:58:29
"""
import traceback
from minio import Minio
from minio.error import S3Error
import oss2
def minio_file_upload(end_point: str, access_key: str, secret_key: str, bucket: str, remote_path: str, local_path: str):
try:
_end_point = end_point.replace('https://', '').replace('http://', '')
# Create a client with the MinIO server playground, its access key
# and secret key.
client = Minio(
_end_point,
access_key=access_key,
secret_key=secret_key,
secure=False
)
# Make 'asiatrip' bucket if not exist.
found = client.bucket_exists(bucket)
if not found:
client.make_bucket(bucket)
else:
print("Bucket {} already exists".format(bucket))
# Upload '/home/user/Photos/asiaphotos.zip' as object name
# 'asiaphotos-2015.zip' to bucket 'asiatrip'.
client.fput_object(
bucket, remote_path, local_path,
)
print(
"{} is successfully uploaded as "
"object {} to bucket {}.".format(local_path, remote_path, bucket)
)
except S3Error as e:
print(
"*** minio上传文件异常 -> {} {}".format(str(e), traceback.format_exc()))
raise Exception("minio上传文件异常:[{}]".format(str(e)))
def oss_file_upload(end_point: str, access_key: str, secret_key: str, bucket: str, remote_path: str, local_path: str):
try:
_end_point = end_point.replace('https://', '').replace('http://', '')
# 阿里云账号AccessKey拥有所有API的访问权限,风险很高。强烈建议您创建并使用RAM用户进行API访问或日常运维,请登录RAM控制台创建RAM用户。
auth = oss2.Auth(access_key, secret_key)
# yourEndpoint填写Bucket所在地域对应的Endpoint。以华东1(杭州)为例,Endpoint填写为https://oss-cn-hangzhou.aliyuncs.com。
# 填写Bucket名称。
bucket = oss2.Bucket(auth, _end_point, bucket)
# 填写Object完整路径和本地文件的完整路径。Object完整路径中不能包含Bucket名称。
# 如果未指定本地路径,则默认从示例程序所属项目对应本地路径中上传文件。
bucket.put_object_from_file(remote_path, local_path)
except S3Error as e:
print(
"*** oss上传文件异常 -> {} {}".format(str(e), traceback.format_exc()))
raise Exception("oss上传文件异常:[{}]".format(str(e)))
代码说明:
1、参数分别为endpoint(IP或者域名:端口)、accessKey、secretKey、桶名、远程文件路径、本地文件路径。
补充
Python实现Minio的下载(主要用于异地备份的中转站)
import logging
from minio import Minio
from minio.error import S3Error
logging.basicConfig(
level=logging.INFO,
filename='../mysqlbackup_downlaod.log',
filemode='a',
format='%(asctime)s %(name)s %(levelname)s--%(message)s'
)
file_name = "mysql_monitor.py"
file_path = "C:\\Users\\lpy\\Desktop\\img\\{}".format(file_name)
def download_file():
# 创建一个客户端
minioClient = Minio(
'minio.***.com',
access_key='admin',
secret_key='****',
secure=False
)
try:
minioClient.fget_object(
bucket_name="backup",
object_name="mysql/dev/{}".format(file_name),
file_path=file_path
)
logging.info("file '{0}' is successfully download".format(file_name))
except S3Error as err:
logging.error("download_failed:", err)
if __name__ == '__main__':
download_file()
来源:https://blog.csdn.net/zhiweihongyan1/article/details/121866248


猜你喜欢
- Blackfriday是在Go中实现的Markdown处理器。您可以安全地输入用户提供的数据,速度快,支持通用扩展(表,智能标点符号替换等)
- 前段时间跟这suggest项目走,没想到这么一个小小的输入框居然会带来那么多的问题。首先来比较一下几个主流的搜索引擎的suggest效果。为
- 本文通过Docker Compose来创建mysql容器在linux服务器上创建文件,用于管理容器 mkdir docker-mysql c
- C# 连接oracle数据库常用的三种方法有三种:一、Oracle.ManagedDataAccess.dll:Oracle官方提供的ora
- 1.首先安装 PyPDF2 库:pip install PyPDF22.然后保存下面文件(已带注释,具体实现请自己思考)import osi
- 本文通过图文并茂的方式给大家展示SQL SERVER数据库表记录只保留N天图文教程,具体方法步骤请看下文:第一步:首先设置SQL Serve
- 有些小伙伴跟小编讨论了python中使用多线程原理的问题,就聊到了关于python多线程的弊端问题,这点可能在使用的过程中大家会能感觉到。而
- pymysql 模块!pymysql模块时一个第三方模块!需要下载:pymysql的基本使用:import pymysqlconn = py
- 一、什么是缓存击穿当一个key是热点key时,一般会做缓存来抗大量并发,但当缓存失效的一瞬间,这些大量的并发请求会击穿缓存,直接请求数据库为
- 看了不少朋友的个人网站,有一个小问题,似乎很多朋友都忽略了,那就是版权声明的写法。虽然那只是一小行字,不过作为设计师也好,作为个人的爱好也好
- 题目给定一个字符串,逐个翻转字符串中的每个单词。示例 1:输入: "the sky is blue"输出: "
- 在PyCharm2017中同目录下import其他模块,会出现No model named ...的报错,但实际可以运行这是因为PyChar
- 说明:最近在B站看一些材料力学视频时候,感觉有一些分集狂魔的分集真的很恐怖,有的甚至上百集,因此决定写个小脚本每次分析下到底这个系列视频到底
- 目录先说结论问题解决方案使用Promise封装回调函数总结先说结论业务流程: 从网络日志中检查到token过期,则跳转到登录页面
- 需求每天往一个表里面插入两条数据,但日期不同INSERT INTO test(`id`, `art_training_institution
- 1.下载下载链接点击download,这里可能需要登录甲骨文的账号,登录一下即可2.解压下载好会得到一个安装包把它解压到一个能找到的目录下即
- 想用go做一个统计svn代码提交的工具,类似statsvn。今天进展到了用go解析svn log生成的xml格式的文件,在go doc上找了
- 学习Django框架时,创建一个引擎及索引时报错,具体报错如下:执行命令:python3 manage.py rebuild_index报如
- 我就废话不多说了,还是直接看代码吧!from time import ctimeimport threadingimport timedef
- 本文实例讲述了Flask框架模板渲染操作。分享给大家供大家参考,具体如下:from flask import render_template