Akh*_*ese 5 postgresql sharding sqlalchemy flask flask-sqlalchemy
我将在这里非常具体,因为已经提出了类似的问题,但没有一个解决方案适用于这个问题。
我正在开发一个有四个 postgres 数据库的项目,但为了简单起见,我们假设有 2 个。即 A & B
A、B 代表两个地理位置,但数据库中的表和模式是相同的。
样品型号:
from flask_sqlalchemy import SQLAlchemy
from sqlalchemy import *
from sqlalchemy.ext.declarative import declarative_base
db = SQLAlchemy()
Base = declarative_base()
class FRARecord(Base):
__tablename__ = 'tb_fra_credentials'
recnr = Column(db.Integer, primary_key = True)
fra_code = Column(db.Integer)
fra_first_name = Column(db.String)
Run Code Online (Sandbox Code Playgroud)
该模型在两个数据库中都复制,但具有不同的模式,因此要使其在 A 中工作,我需要执行以下操作:
__table_args__ = {'schema' : 'A_schema'}
Run Code Online (Sandbox Code Playgroud)
我想使用单个内容提供程序,该内容提供程序可以访问数据库,但具有相同的方法:
class ContentProvider():
def __init__(self, database):
self.database = database
def get_fra_list():
logging.debug("Fetching fra list")
fra_list = db.session.query(FRARecord.fra_code)
Run Code Online (Sandbox Code Playgroud)
两个问题是,我如何决定指向哪个 db 以及如何不复制不同模式的模型代码(这是 postgres 特定问题)
这是我迄今为止尝试过的:
1)我为每个模型制作了单独的文件并继承了它们,所以:
class FRARecordA(FRARecord):
__table_args__ = {'schema' : 'A_schema'}
Run Code Online (Sandbox Code Playgroud)
这似乎不起作用,因为我收到错误消息:
"Can't place __table_args__ on an inherited class with no table."
Run Code Online (Sandbox Code Playgroud)
这意味着我无法在 db.Model(在其父级中)已经声明之后设置该参数
2)所以我尝试对多重继承做同样的事情,
class FRARecord():
recnr = Column(db.Integer, primary_key = True)
fra_code = Column(db.Integer)
fra_first_name = Column(db.String)
class FRARecordA(Base, FRARecord):
__tablename__ = 'tb_fra_credentials'
__table_args__ = {'schema' : 'A_schema'}
Run Code Online (Sandbox Code Playgroud)
但得到了可预测的错误:
"CompileError: Cannot compile Column object until its 'name' is assigned."
Run Code Online (Sandbox Code Playgroud)
显然我不能将 Column 对象移动到 FRARecordA 模型而不必为 B 重复它们(实际上有 4 个数据库和更多模型)。
3)最后,我正在考虑进行某种分片(这似乎是正确的方法),但我找不到我将如何进行此操作的示例。我的感觉是我只会使用这样的单个对象:
class FRARecord(Base):
__tablename__ = 'tb_fra_credentials'
@declared_attr
def __table_args__(cls):
#something where I go through the values in bind keys like
for key, value in self.db.app.config['SQLALCHEMY_BINDS'].iteritems():
# Return based on current session maybe? And then have different sessions in the content provider?
recnr = Column(db.Integer, primary_key = True)
fra_code = Column(db.Integer)
fra_first_name = Column(db.String)
Run Code Online (Sandbox Code Playgroud)
为了清楚起见,我访问不同数据库的意图如下:
app.config['SQLALCHEMY_DATABASE_URI']='postgresql://%(user)s:\
%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_A
app.config['SQLALCHEMY_BINDS']={'B':'postgresql://%(user)s:%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_B,
'C':'postgresql://%(user)s:%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_C,
'D':'postgresql://%(user)s:%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_D
}
Run Code Online (Sandbox Code Playgroud)
POSTGRES 字典包含连接到数据的所有键
我假设继承对象,我只是像这样连接到正确的对象(所以 sqlalchemy 查询会自动知道):
class FRARecordB(FRARecord):
__bind_key__ = 'B'
__table_args__ = {'schema' : 'B_schema'}
Run Code Online (Sandbox Code Playgroud)
终于找到了解决这个问题的方法。
本质上,我没有为每个数据库创建新的类,我只是为每个数据库使用了不同的数据库连接。
这种方法本身很常见,棘手的部分(我找不到示例)是处理模式差异。我最终这样做了:
from sqlalchemy import create_engine
from sqlalchemy.orm import sessionmaker
Session = sessionmaker()
class ContentProvider():
db = None
connection = None
session = None
def __init__(self, center):
if center == A:
self.db = create_engine('postgresql://%(user)s:%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_A, echo=echo, pool_threadlocal=True)
self.connection = self.db.connect()
# It's not very clean, but this was the extra step. You could also set specific connection params if you have multiple schemas
self.connection.execute('set search_path=A_schema')
elif center == B:
self.db = create_engine('postgresql://%(user)s:%(pw)s@%(host)s:%(port)s/%(db)s' % POSTGRES_B, echo=echo, pool_threadlocal=True)
self.connection = self.db.connect()
self.connection.execute('set search_path=B_schema')
def get_fra_list(self):
logging.debug("Fetching fra list")
fra_list = self.session.query(FRARecord.fra_code)
return fra_list
Run Code Online (Sandbox Code Playgroud)
| 归档时间: |
|
| 查看次数: |
2492 次 |
| 最近记录: |