BigqueryDR抱怨和多地区支持
创始人
2024-12-12 13:31:33
0
  1. 防止Bigquery DR的投诉:
  • 通过调整Table级别的缓存时间,以避免缓存被重复访问。
#standardSQL
SELECT *
FROM `myproject.mydataset.mytable`
WHERE _TABLE_SUFFIX BETWEEN '20210101' AND '20210131'
ORDER BY mytimestamp DESC
LIMIT 10
  • 对于长时间运行的查询添加定时器,以免重复发送相同的请求。
from google.cloud import bigquery
from datetime import datetime
import time

client = bigquery.Client()

def query_runner():
    query_job = client.query("SELECT * FROM `myproject.mydataset.mytable` LIMIT 10")
    return query_job.result()

start_time = time.time()
execution_time_limit = 60 # seconds

while True:
    job_result = query_runner()
    current_time = time.time()
    execution_time = current_time - start_time
    
    if execution_time > execution_time_limit:
        raise Exception("Query execution time exceeds the limit")
        
    if job_result is None:
        time.sleep(10)
    else:
        break

result = job_result.to_dataframe()
  1. 多地区支持
  • 将Bigquery数据复制到多个地区并启用multi-regional选项。
bq cp --destination_kms_key=projects//locations//keyRings//cryptoKeys/ \
      --destination_cmk_key_name=projects//locations//keyRings//cryptoKeys/ \
      --destination_sse_algorithm=Google-KMS \
      --source_kms_key=projects//locations//keyRings//cryptoKeys/ \
      --source_cmk_key_name=projects//locations//keyRings//cryptoKeys/ \
      --source_sse_algorithm=Google-KMS \
      --apilog=stderr \
      --debug \
      --recursive \
       \
      
  • 确保

相关内容

热门资讯

Android Recycle... 要在Android RecyclerView中实现滑动卡片效果,可以按照以下步骤进行操作:首先,在项...
安装apache-beam==... 出现此错误可能是因为用户的Python版本太低,而apache-beam==2.34.0需要更高的P...
Android - 无法确定任... 这个错误通常发生在Android项目中,表示编译Debug版本的Java代码时出现了依赖关系问题。下...
Android - NDK 预... 在Android NDK的构建过程中,LOCAL_SRC_FILES只能包含一个项目。如果需要在ND...
Akka生成Actor问题 在Akka框架中,可以使用ActorSystem对象生成Actor。但是,当我们在Actor类中尝试...
Agora-RTC-React... 出现这个错误原因是因为在 React 组件中使用,import AgoraRTC from “ago...
Alertmanager在pr... 首先,在Prometheus配置文件中,确保Alertmanager URL已正确配置。例如:ale...
Aksnginxdomainb... 在AKS集群中,可以使用Nginx代理服务器实现根据域名进行路由。以下是具体步骤:部署Nginx i...
AddSingleton在.N... 在C#中创建Singleton对象通常是通过私有构造函数和静态属性来实现,例如:public cla...
Alertmanager中的基... Alertmanager中可以使用repeat_interval选项指定在一个告警重复发送前必须等待...