CData Software Blog

クラウド連携のCData Software の技術ブログです。

SQL Server から kintone へストアドプロシージャで自動連携:SQL Gateway

こんにちは、テクニカルサポートエンジニア の宮本(@miyamon44)です。 今回は SQL Server の CDC 機能+ストアドプロシージャを使い、リンクサーバー経由で kintone のデータを定期的に更新する方法をご紹介します。 シナリオ SQL Gatewayとは 手順 CData OD…

SQL Server から Salesforce へストアドプロシージャで自動連携:SQL Gateway

こんにちは、テクニカルサポートエンジニア の宮本(@miyamon44)です。 今回は SQL Server の CDC 機能+ストアドプロシージャを使い、リンクサーバー経由で Salesforce のデータを定期的に更新する方法をご紹介します。 シナリオ SQL Gatewayとは 手順 CData…

CData Sync .NET 版・Java 版・AMI 版 でのアップデート方法について

こんにちは、テクニカルサポートエンジニアの宮本(@miyamon44)です。 今回は CData Sync 本体(.NET版、Java版、AMI版)のアップデート方法についてご紹介していきます。 .NET 版 前バージョンからの引継ぎインストール(メジャーアップデート) 新規イン…

AWS RDS for SQL Server にリンクサーバーを作成する方法

こんにちは!CData でテクニカルサポートをしている宮本です。 皆さんは AWS RDS for SQL Server に対して、 SSMS の「新しいリンクサーバー」をクリックしたとき、 このようなエラーが発生したことはありませんか? 「要求されたダイアログを表示できません…

AWS RDS for SQL Server のリンクサーバーに Salesforce データを連携:CData Connect

こんにちは、CData Softwatre Japan エンジニアの宮本です。 今回は AWS RDS に構築している SQLServer のリンクサーバー機能を用いて、データハブサービスの CData Connect 経由で Salesforce のデータにアクセスする方法をご紹介します。 CData Connect と…

Salesforceで削除したレコードの連携方法について:CData Sync

こんにちは、CData Software Japan エンジニアの宮本です。 CData Sync では Salesforce の削除レコードについて、「物理削除」、「論理削除」、「スキップ」という3つの方法で連携先に反映させることができます。 今回はこちらの3つの方法で Salesforce …

ELTツールのAIRBYTEとCDataConnectでSaaSデータをBigQueryに連携してみた

こんにちは、CData Software Japan エンジニアの宮本です。 つい先日この記事や Twitter 上で AIRBYTE というオープンソースの ELT ツールの存在を知りました。 jp.techcrunch.com ということで早速触ってみましたが、結構簡単に確認できました。 Airbyte 初…

CDataSync からOAuth認証でJIRAに接続する方法

こんにちは、CData Software Japan エンジニアの宮本です。 今回は CData Sync から JIRA への接続方法として OAuth 認証をサポートしましたので、実際に接続する方法をご紹介したいと思います。 JIRA Cloud でのパスワードを使用したベーシック認証が廃止 C…

Backlogで管理している課題をBigQueryに連携してみる:CData Sync

こんにちは!CData Software Japanの宮本です! 今回はプロジェクト管理ツールの Backlog で管理している課題を、ELT ツールのCData Sync を使って外部DBにレプリケートする方法をご紹介します。 backlog とは? 開発からマーケティング、人事・総務まで様々…

CData Sync アップデート情報 2021年2月

こんにちは、CData Software Japan エンジニアの宮本です。 今回は 2021年2月の CData Sync アップデート情報をご紹介します。 1.Google Cloud Storage が同期先に追加 2.AWS AMI および AzureMarketplace 管理用のドキュメントを追加 3.クラウドスト…

BigQueryへのInsert パターン比較:ストリーミング、DML、バルクロード:CData BigQuery Driver

こんにちは。CData Software Japan エンジニアの宮本です。 今回は BigQuery へデータを登録する際の「ストリーミングインサート、DML、バルクロード」の 3つのインサート方法についてみていきたいと思います。 それぞれのInsert パターンについて ストリー…

BigQueryへのリクエストでエラー:Request payload size exceeds the limit: 10485760

こんにちは!CData Software エンジニアの宮本です。 今回はよくお問合せいただくこの BigQuery のエラーについて触れていきます。 Request payload size exceeds the limit: 10485760 Request payload size exceeds the limit: 10485760 冒頭に載せたエラー…

AMI版CDataSyncにRoute53で取得したドメインを設定してみる

こんにちは!CData Software Japan エンジニアの宮本です。 CData Sync では.NET版、Java版のインストーラーでセットアップする以外に、AWS Marketplace でAMI 版CData Sync を利用することができます。 Marketplace の画面でポチポチっとするだけですぐにCD…

GCEインスタンスのアクセススコープを使用してBigQuery へのアクセス制御を試してみる:CData Sync

こんにちは、CData Software Japan エンジニアの宮本です。 GCE のVMインスタンスでは、インスタンスごとにアクセススコープを設定できるのはご存知でしょうか。以下のようにインスタンスからGCP 上のサービスにアクセスできる範囲を設定することができるよ…

GCP内で完結!BigQuery にSaaS データをローディングする構成について

本記事はBigQuery Advent Calendar 2020 22日目の記事です。 qiita.com こんにちは!CData Software Japan エンジニアの宮本です。 2020年もあっという間に終わろうとしていますが、この1年を思い返してみると、感覚的に去年に比べてBigQuery を軸にした相…

ELTツール+Dataform でBigQuery へのデータロード・チェック・マージを自動化してみた:CDataSync

こんにちは、CData Software でエンジニアをしている宮本です。 先日、Google からDataform がGCP の傘下になったとアナウンスがありました。 cloud.google.com 自分自身、Dataform というサービスを知らなかったのですが、Webサイトやドキュメントなどを読…

HubSpot のカスタムオブジェクトにある製品情報をSalesforce に定期連携:ArcESB

こんちにちは、CData Software Japan エンジニアの宮本です。 HubSpot でカスタムオブジェクトが使えるようになったというアナウンスが出てからまだ間もないですが、今回はHubSpot → Salesforce への定期連携を行ってみます。 シナリオ ArcESB とは? 必要な…

ELTツールのCDataSyncでHubSpotからMySQLへのデータ同期をやってみよう

こんにちは、CData Software Japan エンジニアの宮本です。 今回はCData Sync というEL・ELTツールを使って、HubSpot からMySQL に同期する手順をご紹介いたします。 ちなみにこの記事を行っていただければ、CData Sync のメインどころの操作、つまりはDB へ…

PowerShellでSalesforceのデータをRDBへレプリケート:CData Salesforce PowerShell Cmdlets

こんにちは、CData エンジニアの宮本です。 先日、Power Shell のモジュールとして使える「CData PowerShell Cmdlets」をリリースしました。 prtimes.jp いろいろと専用コマンドが用意されていますが、面白いところでは接続先のデータ(データソース)をRDB …

Autify のテストデータをPower BIで可視化してみる:CData Autify ODBC Driver

本記事はCData Autify ODBC Driver を使って、AutifyにあるテストデータをPower BIから接続して可視化する方法をご紹介します。 Autify とは 本記事で使うもの Autify のアクセストークン取得 CData Autify ODBC Driver のインストール Power BI でAutify の…

Autify のテストデータをGoogle BigQuery に定期連携:CData Sync

本記事はAWS EC2のVMインスタンスにCData Sync を起動させ、Autifyにあるテストデータを定期的にGoogle BigQuery に連携する方法をご紹介します。 Autify とは CDataSync とは 本記事で使うもの Autify のアクセストークン取得 EC2 VM作成~CDataSync Java版…

Excel からHubSpot のカスタムオブジェクトにCRUDしてみる:CData Excel Add-In for HubSpot

こんにちは、CData でエンジニアをしています宮本です。 今回も引き続きHubSpot のカスタムオブジェクトについてです。 前回の記事では、Postman から直接HubSpot のカスタムオブジェクトを作成するAPI を実行してみました。 Excel Add-Ins とは? 手順 Exce…

Cloud Dataflow × CData JDBC Driver でMarketo のLeadデータをサーバーレスな環境でBigQuery に連携してみる

こんにちは、CData の宮本です! 今回もCloud Dataflow を使った内容をご紹介します。 前回はというと、①CData Connect というSaaS 型のデータハブにDataflow からアクセスして、そこから更に②CData Connect からデータソースにアクセスする2段階の構成をや…

Postman でHubSpot のカスタムオブジェクトを作成してみた!

こんにちは、CData エンジニアの宮本です。 今回はHubSpot のカスタムオブジェクトを作成する方法をご紹介したいと思います。 え?、カスタムオブジェクト?と思う方もいるかもしれませんが、少し前にHubSpot でカスタムオブジェクトを作成できるようになっ…

AWS EC2 Amazon Linux で簡単にCData Sync Java エディションを構成する方法

こんにちは、CDataの宮本です。 今回はよくお問合せをいただくCData Sync をLinux環境で使用する方法について、AWS EC2 Amazon Linux を使ってご紹介していきたいと思います。 ちなみに、Amazon Linux ではなく CentOS やRedHat などLinux ディストリビュー…

Google Cloud Dataflow のJDBC テンプレートを使用してSaaS 連携を実現:CData Connect

こんにちは、CDataの宮本です。 前回の記事では、Cloud Data Fusion × CData Connect でSaaS 連携をご紹介しました。 www.cdatablog.jp 今回は同じGCPサービスのCloud Dataflow のJDBC テンプレートを使って、ノーコードでCData Connect 経由でSaaS データを…

Google Cloud Data Fusion のSaaS 連携をCData Connect で拡張:Dynamics 365(CRM)編

こんにちは、CDataでエンジニアをしてます宮本です。 今回はGCP上のノーコードETLサービス Google Cloud Data Fusion と、CData が提供するSaaS 型のデータハブサービス「CData Connect」をつないで、Dynamics 365(CRM)のデータをBigQuery に連携する方法…

Create!Webフローのサブフォームにkintoneデータを一覧表示させて使ってみた:CData kintone JDBC Driver

こんにちは!CData でエンジニアをしています宮本です! 今回はインフォテック社のワークフロー製品であるCreate!Webフローに、kintone のデータを活用できるようCData kintone JDBC Driver を使って検証してみました。 Create!Webフローとは CData JDBC Dri…

【CData Sync ハンズオン】Google BigQuery を軸にしたデータ分析基盤をCDataSyncで構築してみよう!

はじめに 本資料は、CData Software Japanのハンズオン向けの資料です。本ドキュメントをもとに実機にCData Sync製品をインストールして手順に沿って操作する事で、Salesforce やkintone などのクラウドサービスのデータをBigQuery やRedShift をはじめ、MyS…

CDataSyncを使ってBusiness b-ridge のアプリデータをBigQueryにレプリケート

こんにちは、CData の宮本です。 今回は ノーコードで簡単にシステムを構築することできる Business b-ridge 内にあるデータを、データレプリケートツールの CData Sync を使って BigQuery に連携する内容を紹介いたします。 Business b-ridgeとは CData Syn…