Azure VM の Marketplace の Windows Sever イメージは英語(en-us)環境です。Desktop Experience ベースのイメージは、オンラインで日本語サポートを追加することで、表示言語や既定の言語、システムロケールを変更し、日本語化することが可能ですし、その手順も確立してると思います(私もいろんなとこで書いてます)。
Server Core ベースのイメージ(Windows Server 2019 Datacenter Server Core、Windows Server, version 1903 with Containers とか)は日本語化できるのか、試行錯誤して成功したので覚え書きとして残します。あくまでも試行錯誤した結果に基づくもので、余計な操作が含まれるかもしれません。
(Windows Server, version 1909 with Containers イメージが利用可能になったら、もう一度確認してちゃんとした記事にするつもり。11/23 現在、Azure PowerShell で確認すると Publisher "MicrosoftWindowsServer"、Offer "WindowsServer" に SKU "datacenter-core-1909-with-containers-smalldisk" はあるけど空っぽ。Get-AzureRmVMImage で返ってくるイメージなし。11/24 イメージ登場するも、Portalにはなし)
以下のスクリーンショットは、Windows Server 2019 Datacenter Server Core の Azure VM のビフォー/アフター。