Protocol context manager

+1  

In big microservice based systems or systems with lots of protocols, you often need to make a change that ripples out through the entire system. If you have X services you send a message between them you have X message schemas. Let's manage the schemas centrally

YAML 発想

Adding a field to a message should be a simple change in a central system. The rest of the system should just adapt to the new field.

In traditional microservice architectures there's either a monorepo or a repository per microservice and each service has to be changed to add the new field.

In this design each service retrieves its schema from a central source and every area where messages are constructed there is a context area. This context area contains all known state at that point in time.

Someone can move a piece of context to the protocol schema centrally. So adding a new column to a database or to a protocol message is as simple as changing it in one place.


(通知しない) (不必要) ログインしてください。

私にとっては、「dockerレジストリ」(〜「スキーマレジストリ」)のように見えました。そこで、devopsを専門とする友人にコメントを求めました。彼の考えは次のとおりです。

「理にかなっていますが、dbまたはファイル、別の状態機能は所有者のみを持つことになっています。さまざまなサービスが1 dbを使用すると、一貫性が失われることを意味します。スキーマに関してはそうです、それは理にかなっています。ただし、サービスの所有者は異なります。 APIのバージョン。APIでいくつかの新しい変更をリリースしたら、/ api / v2 / blablaなどのAPIバージョンを増やす必要があります。Protobufまたはgraphqlだと思いますこの問題を部分的に解決することができます。」

私:「つまり、プロトコルバッファと、APIバージョン管理により、メッセージングスキーマの集中管理が不要になるという点が指摘される可能性がありますか?」

彼:「最近のすべてのAPIプロバイダーはバージョン管理を使用しています...わかりました。フィールドは自動的に表示されますが、アプリケーションがそれが何であるかを認識していない場合、フィールドは役に立ちません。」

//誰かがコンテキストの一部をプロトコルスキーマに一元的に移動できます。したがって、データベースまたはプロトコルメッセージに新しい列を追加するのは、1か所で変更するのと同じくらい簡単です。

個人的には、マイクロサービスとは独立してデータのスキーマを開発するというアイデアが好きです。そうすれば、誰もがシステムのオントロジーモデルの開発に参加でき、1つのマイクロサービスで終わることはありません。

For me, it looked like some "docker registry" (~"schema registry"). So, I asked a friend specialized in devops to comment on this. His thoughts were:

"Makes sense, however a db or files, another state feature are supposed to have only owner, if various services use 1 db, it means you will loose consistency. In terms of schema yes, it makes sense. However owner of service use different versions for API. Once you release some new changes on API, you have to increase API version, like /api/v2/blabla.I think Protobuf or graphql can solve this problem partly."

Me: "So, you mean, a point could be made, that protocol buffers, and API versioning make the central management of messaging schemas not necessary?"

Him: "All modern API providers use versioning... Ok, field appears automatically, but if application is not aware what it is, the field is unuseful."

// Someone can move a piece of context to the protocol schema centrally. So adding a new column to a database or to a protocol message is as simple as changing it in one place.

Personally, I like the idea of developing schemas of data independently of microservices, because then everyone can be part of the development of ontological model of the system, which never ends with just one microservice.


多くのサービスは、メッセージを渡したり、ペイロード内の他のサービスからのデータを保存したりします。問題のサービスが特定のフィールドを特に気にしない場合もありますが、別のサービスがチェーンのさらに下流にある場合があります。

たとえば、私が使用したイベント駆動型マイクロサービスアーキテクチャでは、MongoDBに前のサービスからのデータのキャッシュされたペイロードを保存させ、その後すべてのサービスがそれをフェッチしないようにしました。また、データの同期を維持します。

スキーマはRabbitMQシステムで使用されますが、多くの場合、アドホックな方法で管理されます。つまり、同期を維持する必要があるマイクロサービスのネットワークの各マイクロサービスにJavaクラスがあります。それは悪夢です。

手動でのバージョン管理は、自動的に実行できると思う解決策です。スキーマ管理UIの新しいバージョンボタンを押して、新しいフィールドを追加します。また、各メッセージの種類にフィールドが適用されるチェックボックスをオンにします。

DAOのような自律的な自己管理組織が必要な場合は、プロトコル形式について何らかの合意が必要になります。

Many services pass on messages or store data from other services within the payload. Sometimes the service in question doesn't care about particular fields particularly but another service might further down the chain.

For example in event driven microservice architecture I have used we had MongoDB store cached payload of data from a previous service to preclude having every service thereafter fetching it. Also it keeps data in sync.

Schemas are used in RabbitMQ systems but are often managed in an ad hoc way. That is you have a Java class in each microservice of the network of microservices that you have to keep in sync. It's a nightmare.

Versioning manually is a solution I just think it could be done automatically. Press a new version button in a schema management UI and add the new fields. And tick check boxes where the field applies for each message kind.

If we want autonomous self managed organisations like DAOs there will need to be some agreement on the protocol format.



    :  -- 
    : Mindey
    :  -- 
    

--chronological,

スキーマレジストリは、高可用性モードで実行できます。

orderData = db.get_order(order_id)

context.put( "order"、order_data)

context.put( "user_id"、user_id)

メッセージ= context.render( "new-order-message")

new-order-messageがスキーマレジストリで検索され、そこに含まれるデータを確認する場所

レジストリは、コンテキスト内またはコンテキスト内のサブオブジェクトがレンダリング時にメッセージペイロードに表示されるデータを決定します。

The schema registry could be ran in high availability mode.

orderData = db.get_order(order_id)

context.put("order", order_data)

context.put("user_id", user_id)

message = context.render("new-order-message")

Where new-order-message is looked up in the schema registry to see what data it contains

The registry decides what data in context or inside context subobjects appears in the message payload when rendered.



    :  -- 
    : Mindey
    :  -- 
    

--chronological,

私の電子メールベースのソーシャルネットワークでは、多くのスキーマを事前に定義しました。いろいろなもののシェアを処理します。

各メッセージのサンプルXMLを作成しました。しかし、それらを書いた後、例を使用しませんでした。

In my email based social network I defined lots of schemas upfront. To handle shares of various things.

I wrote example XMLs of each message. But didn't use the examples after writing them.



    :  -- 
    : Mindey
    :  -- 
    

--chronological,