Google Home Vitals kontrol panelinde ürün kalitenizi ölçme

1. Başlamadan önce

Bu codelab, ekosistem kalitesini ve kullanıcı deneyimini iyileştirmek için Google Home iş ortakları ve geliştiricileri için tasarlanmıştır.

Neler öğreneceksiniz?

Google Home Vitals Kontrol Paneli, geliştiricilerin ve iş ortaklarının Google Home entegrasyonlarının operasyonel durumunu izlemesi için merkezi bir bilgi kaynağı görevi görür. Kullanıcı deneyiminin gecikme ve güvenilirlik ile tanımlandığı bir ekosistemde Google Home Vitals, reaktif sorun gidermeden proaktif kalite yönetimine geçiş için gereken tüm ayrıntılı analizleri içeren self servis portalıdır.

  • Kaliteli entegrasyon puanınız nasıl hesaplanır?
  • Kontrol panelini okuma ve kullanma
  • Kalitesiz metriklerde hata ayıklama

İhtiyacınız olanlar

  • Google Home Cloud Integration'a sahip olmanız gerekir.

Kurulum

Google Home Vitals Kontrol Paneli'ne gitme:

  1. Google Cloud Platform'u açın.
  2. İzleme > Kontrol Paneli
  3. "Google Home Vitals (Cloud)" kontrol panelini tıklayın.

2. Kontrol panelini okuma

Kalite puanı hesaplama: "İyi" ve "Kötü" standartları

Kontrol panelinde kalite puanlamasıyla ilgili ayrıntılı bilgi yer alır. Kalite puanları, cihaz türü ayrıntı düzeyinde atanır. Bir cihaz türü entegrasyonunun İYİ olarak kabul edilmesi için dört ölçütü aynı anda karşılaması gerekir:

  1. Genel Başarı Oranı: İş ortağından Google'a yapılan genel görüşme başarı oranı >=%99,5 olmalıdır.
    Not: Genel başarı oranının (>=%99,5) karşılanmaması, tek tek cihaz performansından bağımsız olarak tüm proje genelinde otomatik olarak KÖTÜ derecelendirmesine yol açar.
  2. Komut Güvenilirliği: Her cihaz türü için QUERY ve EXECUTE başarı oranları >=% 99,5 olmalıdır.
  3. Yanıt Gecikmesi: QUERY ve EXECUTE için gecikmenin 90. yüzdelik dilimi, her cihaz türü için <=1.000 ms olmalıdır.
  4. Eyalet Bütünlüğü: Eyalet Doğruluğu >=%99,5 olmalıdır.

Bu Metrikler Neden Önemli?

  1. Genel Başarı Oranı: Entegrasyon düzeyindeki iş ortağından Google'a yapılan aramalar, bulutunuzdan Google'a yapılan aramaların durumunu ölçer. %99,5'lik başarı oranı, Google Home'un doğru cihaz durumlarını kullanmasını sağlar. Örneğin, cihazların eklenip kaldırıldığından, otomasyonların tetiklendiğinden ve geçmiş etkinliklerinin Google Home uygulamasının Etkinlik sekmesinde göründüğünden emin olunmalıdır.
  2. Komut Güvenilirliği: QUERY ve EXECUTE başarı oranları cihaz türü düzeyinde ölçülür. %99,5'ten yüksek bir başarı oranı, kullanıcınızın komutlarının doğru şekilde yerine getirilmesini sağlar (ör. "Cihaza erişemiyorum" gibi Asistan yanıtları verilmez veya yerine getirilmeyen bir komut yanlışlıkla onaylanmaz).
  3. Yanıt Gecikmesi: QUERY ve EXECUTE gecikmeleri de cihaz türü düzeyinde ölçülür.Cihaz türü başına <=1000 ms gecikme, kullanıcınızın istediği işleme ulaşmak için çok uzun süre beklemesini (ör. ışığının kapanması için birkaç saniye beklemesi) önler.
  4. Durum Bütünlüğü: Durum Doğruluğu, Google sistemlerinde depolanan ve kullanıcı sorgularına yanıt vermek için kullanılan durumun doğruluğunu ölçer. Bu sayılar düşükse kullanıcılar, cihazınızın durumunu görüntülerken veya "Home'a Sor" gibi yapay zeka özelliklerini kullanırken cihazlarınızla ilgili yanlış sonuçlar görebilir. Otomasyonlar tetiklenmeyebilir ve geçmiş girişleri Etkinlik bölümünde doğru zamanda görünmeyebilir.

Kontrol panelini okuma

Entegrasyonunuzun temel durum göstergesi olan Kalite Puanı Metrikleri bölümünden başlayın. Cihaz düzeyinde İYİ bir puan alabilmek için bu bölümdeki tüm metriklerin YEŞİL başarı kriterlerini karşılaması gerekir. Ayrıntılı teknik şartlar ve metrik tanımları Geliştirici Merkezi belgelerinde yer almaktadır.

Google Home Vitals kontrol panelinin üst kısmındaki "Kalite Metrikleri Puanı" bölümünde, entegrasyon kalite puanınızı hesaplamak için kullanılan metrikler gösterilir.

Açıklama

  • YEŞİL (İYİ): Metrik, kalite eşiğini karşılıyor.
  • KIRMIZI (KÖTÜ): Metrik, kalite eşiğini karşılamıyor.

Örnek

Aşağıdaki örnekte, AC_UNIT cihaz türünün QUERY ve EXECUTE başarı oranı ile QUERY gecikmesi bölümündeki kalite ölçütlerini karşıladığı ancak EXECUTE gecikmesi ölçütünü karşılamadığı (kırmızı) görülmektedir. Bu, komutların başarılı olma oranının yeterli olduğu ancak EXECUTE gecikmesinin 36 ms çok yavaş olduğu anlamına gelir. Sistem Sağlığı bölümünde, entegrasyondaki toplu yöntemler için% 98,92'lik bir başarısızlık oranı gösteriliyor.Bu da kullanıcıların cihaz durumlarının Google Home'a doğru şekilde aktarılması için iyileştirme yapılması gerektiğini gösteriyor. Bu, çağrıların% 1,08'inin (DeleteAgentUser, Query, ReportStateAndNotification, RequestSyncDevices veya Sync) 2xx ya da 5xx'e eşit olmayan yanıt kodları (ör. 404 hataları). AC_UNIT cihaz türü için geçme/kalma kalitesini ölçmek üzere kullanılan son metrik durum doğruluğudur. Bu örnekte% 77,43'lük bir başarı oranı görüyoruz.Bu da kullanıcıların cihazlarla ilgili yanlış sonuçlar görme olasılığının yüksek olduğu anlamına geliyor. Bu üç metriğe göre AC_UNIT için genel puan POOR (KÖTÜ) ve kalite eşiğinin altında.

a2c2f3c8d7531fe9.png

Bu kalite hesaplamalarının her biri, aşağıdaki hata ayıklama bölümüne karşılık gelir. Daha fazla hata ayıklama için daraltılmış adımları açın.

QUERY/EXECUTE başarı oranları ve gecikme süreleriyle ilgili hataları ayıklamak için "1. adım: Bulut çağrılarını doğrulayın" bölümüne gidin.

İş ortağından Google'a yapılan çağrıların başarı oranlarında hata ayıklamak için "2. adım: Google'a yapılan çağrıları doğrulayın" bölümüne gidin.

Her cihaz türü için Durum Doğruluğu'nda hata ayıklamak üzere "3. adım: Durum Doğruluğunu İyileştirin" bölümüne gidin.

a68e651c029391eb.png

31f6a331b86146ed.png

3. Hata Ayıklama 1. Adım: Bulut Çağrılarını Doğrulama

1. adım: Genel bakış

Bu bölümde, Google'dan bulut arka ucunuza yapılan iletişimlerin durumunu ölçen metrikler (Google-iş ortağı metrikleri olarak da bilinir) olan Cloud Calls'a odaklanılmaktadır. Sorgu ve Çalıştır gibi komutlar bu kapsamdadır.

QUERY ve EXECUTE için başarı oranlarını ve gecikmeleri izleriz (bunlar cihaz türü kalite puanlarınızı etkiler).

Aşağıdaki genel bakışta, entegrasyon düzeyindeki toplam QUERY ve EXECUTE başarı oranları ile hatalar gösterilmektedir. 1a-1d adımlarında, bu metriklerin cihaz türü/özellik düzeyindeki dağılımı gösterilmektedir. 7a79bf5af81226f6.png

1a ve 1b adımlarında, karşılama isteği sayısının, zaman içindeki hata sayılarının ve belirli hata durumlarının trendi gösterilir.

1a adımı: Sorgu hatalarını inceleyin

20cd2e1e1114a9df.png 4220b5843d6a2973.png

1b adımı: Yürütme hatalarını inceleyin

79ab571fa31b428f.png

1c ve 1d adımlarında, bu metrikler için hem entegrasyon düzeyinde hem de cihaz türü düzeyinde 90. ve 50. yüzdelik dilimlerin dökümü gösterilmektedir.

1c adımı: Sorgu gecikmesini inceleyin

248735625f9af7cd.png

1d adımı: Yürütme gecikmesini inceleyin

a71098ac39e06f74.png

4. Hata Ayıklama 2. Adım: Google'a Yapılan Çağrıları Doğrulama

2. adım: Genel bakış

Google'dan iş ortağına yapılan çağrılarda hata ayıklama işleminden sonraki bu ikinci adımda, iş ortağı bulutundan Google'a yapılan çağrılarda hata ayıklama işlemi ele alınır. Bu bölümde, cihaz türü düzeyinde değil, iş ortağı entegrasyonu düzeyindeki metrikler ele alınır. Bu metrikler arasında 400 Bad Request, 404 Not Found ve 429 Resource Exhausted gibi yanıt kodları yer alır.

faab83706f20454e.png

Adım 2a: Kota sorunlarını ayıklayın

Google Home, kaynak ayırmayı ve kaynak kullanımını sınırlandırıp proje bazında uygun kotalar uygular. Google, buluttan buluta entegrasyon başına sorgu, silme, Rapor Durumu ve asenkron istek senkronizasyonu API çağrılarınızın toplamına 60 saniyede 6.000 istek varsayılan sınırını uygular.

Kota sorunları, durum güncellemesi tamamlanamadığı için uyuşmazlığa neden olabileceğinden rapor durumu doğruluğunu olumsuz etkileyebilir. Aşağıda, özellikle rapor durumu ve istek senkronizasyonu hatalarını, sayı ve hataların API yöntemi dökümünü ve kota kullanımının yüzdesini gösteren dökümlerin yer aldığı grafikler bulunmaktadır. Bu grafiklerde trafikte beklenmedik bir artış görülüyorsa bir değişikliğin Home Graph API'ye daha fazla trafik gönderilmesine neden olup olmadığını belirlemek için entegrasyonunuzu inceleyin.

Zaman içinde trafiğin doğal olarak artması (ör. büyüme, cihaz sayısındaki artış, yeni bir cihaz türünün kullanıma sunulması veya beklenen başka bir lansmanla tutarlı) gibi bazı senaryolarda entegrasyonunuzun kotasını artırmak uygun olabilir. Kota artışı isteğinde bulunmak için geliştirici dokümanımızdaki adımları uygulayın.

d3e5629af92bc88d.png

ccd9841590dc0b99.png

5. Hata Ayıklama 3. Adım: Durum Doğruluğunu İyileştirme

3. adım: Genel bakış

Hem 1. adım hem de 2. adımda hata ayıklama yapıldıktan sonra 3. adımda, kullanıcı sorgularına hizmet vermek için kullanılan ve Google sistemlerinde depolanan cihaz durumları olan Rapor Durumu'nun doğruluğu ele alınır. Özelliğe ve cihaz türüne göre dökümler aşağıda gösterilmektedir. 3a ve 3b adımlarında, Rapor Durumu ile ilgili iki yaygın hata (Eksik Alan hataları ve Hatalı hatalar) ele alınmaktadır.

9b37adcb554944f3.png

Adım 3a: "Eksik Alan" hataları

"Eksik Alan" hataları, belirli bir cihaz için QUERY yanıtı ile bildirilen durum isteği arasındaki yük alanları kümesi farklı olduğunda oluşur. Her cihazın yükündeki alanlar aynı olmalıdır. Bu durum, yükü hesaplama mantığı QUERY ve rapor durumu yanıtı arasında farklılık gösterdiğinde ortaya çıkabilir. Hangi cihaz türlerinin ve özelliklerinin QUERY ve rapor durumu yanıtlarının eşleşmediğini izlemek için aşağıdaki grafikleri kullanın.

a25f04014cc3c7bc.png

316b294e168e8bc9.png

3b adımı: "Yanlış" hataları

Yanlış hatalar, bir QUERY yanıtı ile belirli bir cihaz için bildirilen durum isteği arasındaki yük alanları kümesi aynı olduğunda ancak durum değerleri farklı olduğunda oluşur. Bu durum, bir eyalet raporunun atlanması veya eyaleti hesaplama mantığının QUERY ile eyalet raporu arasında farklılık göstermesi nedeniyle oluşabilir. Hangi cihaz türlerinin ve özelliklerinin QUERY ve rapor durumu yanıtlarının eşleşmediğini izlemek için aşağıdaki grafikleri kullanın.

b6fd9f6ee31a7bb7.png

d84829cca22b1b20.png

6. Diğer belgeler ve kaynaklar

  • Bu kontrol paneliyle ilgili geri bildirim göndermek veya sorun bildirmek için herkese açık Issue Tracker'ımızda sorun bildiriminde bulunun.
  • İtirazda bulunmak için Kalite metriği itiraz formu ile ilgili bir sorun kaydı oluşturun.
  • Entegrasyon kalitenizden düzenli olarak haberdar olmak için Google Cloud Platform uyarılarını yapılandırarak metrikleriniz kabul edilebilir bir eşiğin altına düştüğünde bildirim alın. Bu sayede, bir sorun ortaya çıktığında ilk bilgilendirilen kişi olursunuz.
  • Diğer tüm bilgiler için lütfen geliştiricinin dokümanlarındaki daha fazla bilgiye bakın: https://developers.home.google.com/tools/analytics/home-vitals