wersja mobilna | kontakt z nami

Programowanie aplikacji mobilnych. Multimedia. cz. 7

Numer: Listopad/2015

Nawet przeciętny smartfon to urządzenie typowo multimedialne. Łączy w sobie wiele elementów, pozwalających na nagrywanie i odtwarzanie dźwięków oraz obrazów. Korzystając z jednego smartfonu można zastąpić niemało urządzeń wejścia i wyjścia, a dodatkowo używając jego potencjał komunikacyjny, zbierane dane można przesyłać i zdalnie je przetwarzać lub nimi zarządzać. W niniejszej części kursu pokazujemy, jak to zrobić, na przykładzie prostego, scentralizowanego systemu bezpieczeństwa, w którym smartfon jest urządzeniem wejściowym.

Pobierz PDF

Nasz nowy przykład będzie podobny do podawanego wcześniej przykładu sterowania bramą, z tą różnicą, że skoncentrujemy się na innych elementach niż dotychczas. Za pomocą aparatu wbudowanego w telefon będziemy rejestrowali obraz, a z użyciem mikrofonu - także i dźwięk, które poprzez Internet będziemy przesyłać do głównego serwera, celem ich weryfikacji.

Gdy weryfikacja będzie poprawna, smartfon powita użytkownika. Sama weryfikacja będzie leżała po stronie centralnego systemu, a więc nie będziemy implementowali jej na telefonie i nie opiszemy jej w tym przykładzie. Jej realizację można oprzeć np. o biblioteki OpenCV i stosowny system bazodanowy, ale wykracza to poza zakres niniejszego kursu.

Dodatkowo, aby pokazać jak zastosować dwie przydatne wtyczki, procedurę sprawdzania tożsamości gościa będziemy rozpoczynali od zeskanowania jego karty z identyfikatorem QR, (co uprości zadanie serwera), a całość komunikatów będziemy podawać głosowo za pomocą syntezatora mowy.

Nowe wtyczki i nowa wersja środowiska

Tabela 1. Plugin pobrane na potrzeby niniejszej części kursu i ich wersje. Warto zwrócić uwagę, że plugin SpeechSynthesis nie został jeszcze przeniesiony do nowego repozytorium npm i cordova nie znajdując go tam, poszukała go w starym repozytorium

Aby niniejszy kurs był jak najdłużej aktualny, jesteśmy zmuszeni zaktualizować nasze środowisko do nowszej wersji, która korzysta z nowego systemu wtyczek. Wspominaliśmy już o nich w 5. części tego kursu, opublikowanej w lipcowym numerze Elektroniki Praktycznej.

Zaczynamy od aktualizacji Cordovy do najnowszej wersji. Należy się spodziewać, że osoby, które dopiero teraz rozpoczynają śledzenie kursu, jeśli postarają się pobierać aktualne wersje oprogramowania Cordovy, będą je miały w tej samej wersji, w której my będziemy mieli za chwilę.

Wykonujemy polecenie npm update -g cordova, które uaktualni środowisko Cordova do najnowszej wersji (w naszym przypadku 5.3.1). W trakcie aktualizacji pojawi się zapewne komunikat o przestarzałych wersjach samego serwera node.js i menedżera pakietów npm.

My na początku kursu zainstalowaliśmy node.js w wersji 0.12.0, który zawierał program npm w wersji 1.4.28. Od tego czasu twórcy node.js znacznie przyspieszyli z numeracją i aktualnie najnowsza wersja tego oprogramowania to 4.1.0. Pobieramy ją ze strony nodejs. org i instalujemy, jak każdy program, z domyślnymi ustawieniami.

Po aktualizacji możemy sprawdzić, które wersje mamy zainstalowane, korzystając z poleceń:

node -v
npm -v
cordova -v

Jeśli wszystko poszło dobrze, powinniśmy mieć na komputerze zainstalowane przynajmniej wersje 4.1.0, 2.14.3 i 5.3.1 (odpowiednio), lub nowsze. Ponieważ tę część kursu zaczynamy od czystego projektu, nie musimy aktualizować platformy androidowej.

Tworzymy nowy projekt i dodajemy do niego platformę Android - w naszym przypadku zainstalowała się wersja 4.1.1. Warto zauważyć, że wraz z tą wersją platformy automatycznie instaluje się plugin cordova-plugin-whitelist (w naszym przypadku w wersji 1.0.0). Jest to konieczna nowość, zmieniająca sposób zabezpieczenia aplikacji przed odwoływaniem się pod niepożądane adresy internetowe.

Z uwagi na potrzeby tej części kursu instalujemy od razu użyteczne dla nas wtyczki:

  • cordova-plugin-file-transfer
  • cordova-plugin-media
  • cordova-plugin-camera
  • org.apache.cordova.speech.speechsynthesis
  • phonegap-plugin-barcodescanner

W trakcie instalacji pierwszej z wtyczek, system automatycznie pobierze wymaganą wtyczkę cordova-plugin-file. Wersje zainstalowanych pluginów, jakie uzyskaliśmy w naszym przypadku, podajemy w tabeli 1. Można je sprawdzić u siebie, korzystając z polecenia cordova plugin.

Po aktualizacji oprogramowania i dodaniu nowej, aktualnej platformy Android do projektu, domyślną wersją API projektu jest 22, czyli odpowiadająca Androidowi 5.1.1 (Lollipop). Może się zdarzyć (np. jeśli ktoś dokładnie podążał kursem, trzymając się tych samych wersji oprogramowania), że nie będzie miał zainstalowanej tej wersji API.

Gdy rozpoczynaliśmy kurs najnowszym dostępnym API było 21, a obecnie jest to już 23 (Android 6.0 Marshmallow). Aby pobrać nowe SDK konieczne jest uruchomienie programu Android SDK Manager, który można wywołać z Android Studio, poprzez naciśnięcie File → Settings → Appearance & Behavior → System Settings → Android SDK lub klikając Tools → Android → SDK Manager, albo też z linii poleceń, wpisując samo polecenie android.

Po załadowaniu się informacji o dostępnych aktualizacjach zaznaczamy wybrane API. W naszym przypadku pobieramy tylko API 22 oraz pozwalamy na aktualizację wszystkich pozostałych narzędzi, których nowsze wersje się pojawiły.

Warto to zrobić, gdyż często zawierają one usprawnienia oraz są pozbawione błędów znalezionych w międzyczasie. Proces aktualizacji może potrwać nawet kilkadziesiąt minut, a pierwsze kompilowanie nowych projektów po wszystkich tych aktualizacjach również potrwa dłużej, gdyż zaktualizowane zostaną dodatkowe potrzebne narzędzia i biblioteki.

Procedura działania projektowanego urządzenia

Na potrzeby przykładu, opracowaliśmy następujący mechanizm działania - użytkownik podchodzi do stale włączonego smartfonu z Androidem. Naciska przycisk "otwórz", po czym uruchamia się kamera w trybie skanowania kodów QR. Użytkownik zbliża swój identyfikator z kodem i gdy kod zostanie poprawnie rozpoznany, kamera przełącza się w tryb robienia zdjęcia.

Użytkownik ustawia się tak, by jego twarz była widoczna przez obiektyw i wykonuje zdjęcie. Następnie użytkownik przedstawia się, a jego próbka głosu jest rejestrowana. Zebrane dane, tj. zdjęcie twarzy i próbka głosu przesyłane są na zdalny serwer, do katalogu zależnego od numeru odczytanego z kodu QR na identyfikatorze użytkownika.

Serwer stara się jak najszybciej sprawdzić, czy zdjęcie i głos pasują do danego, zapisanego w bazie użytkownika i generuje odpowiedź - tej części programu nie realizujemy w ramach kursu i zakładamy, że działa ona poprawnie (stworzyliśmy serwer, który automatycznie zawsze odpowiada poprawnie).

Jeśli odpowiedź jest pozytywna, smartfon łączy się z innym serwerem i pobiera spersonalizowany ekran powitalny (lub np. ustawienia) danego użytkownika i go wyświetla. Poszczególnym etapom rozpoznawania użytkownika towarzyszą wskazówki podawane głosowo przez smartfon.

Rozpoznawanie kodów QR

Tabela 2. Lista kodów graficznych rozpoznawana przez plugin phonegap-plugin-barcodescanner, w zależności od systemu operacyjnego

Zaczynamy od rozpoznawania kodów QR, zapisanych na identyfikatorach użytkowników. W tym celu korzystamy z wygodnej wtyczki phonegap-plugin-barcodescanner. To bardzo proste narzędzie - ma tylko dwie funkcje:

  • cordova.plugins.barcodeScanner.scan(success, fail) - umożliwiającą zeskanowanie kodu i wywołanie funkcji success w przypadku powodzenia, lub funkcji fail, gdy się nie uda,
  • cordova.plugins.barccodeScanner. encode(type, data, success, fail) - umożliwiającą wygenerowanie kodu o zadanym typie (type), na podstawie podanych danych (data) i następnie uruchomienie funkcji success lub fail, w zależności od powodzenia zadziałania.

Funkcja skanująca uruchamia kamerę smartfona z zaznaczonym obszarem, w którym powinien znaleźć się rozpoznawany kod QR. Zostało to przedstawione na rysunku 1. Co ważne, plugin ten pozwala wczytywać różne rodzaje kodów, a nie tylko QR. Ich lista została zebrana w tabeli 2 i jest zależna od systemu operacyjnego, na którym uruchomiona jest aplikacja.

Funkcja tworząca kod QR (i tylko QR) przyjmuje jako typ jeden z czterech rodzajów:

  • TEXT_TYPE,
  • EMAIL_TYPE,
  • PHONE_TYPE,
  • SMS_TYPE.

W zależności od typu wygenerowanego kodu, będzie on inaczej obsługiwany przez różne aplikacje, które go wczytają.

My będziemy tylko skanowali kod i jeśli okaże się on mieć poprawny format, przejdziemy do fotografowania twarzy. Poprawność kodu sprawdzamy poprzez porównanie wartości atrybutów text i format, zmiennej zwracanej jako parametr wywołania funkcji w przypadku powodzenia skanowania kodu.

Korzystanie z kamery

Rysunek 1. Skanowanie kodu z użyciem wtyczki phonegap-plugin-barcodescanner. Pozwala ona nie tylko wczytywać kody QR, ale też różne formaty kodów kreskowych, tak jak np. kod EAN_13, umieszczany na okładce Elektroniki Praktycznej

Zdjęcie użytkownika wykonamy korzystając z pluginu cordova-plugin-camera. Pozwala on nie tylko wykonać nowe fotografie, ale też dać użytkownikowi wybór zdjęcia z galerii oraz obejmuje kilka dodatkowych opcji.

Po instalacji pluginu, w JavaScripcie, w obiekcie navigator pojawia się nowy atrybut camera, również będący obiektem i zawierający dwie funkcje (w tym jedną tylko dla systemu iOS) oraz dwa obiekty z samymi stałymi i jedną zmienną. Oto one:

  • getPicture(success, fail, options) - funkcja wykonująca zdjęcie, lub pozwalająca użytkownikowi na wybranie go z galerii (zależnie od parametru options). Po pomyślnym zrobieniu lub wybraniu fotografii uruchamiana jest funkcja success, której parametrem jest nowy obraz w odpowiednim formacie, ustawionym w opcjach. W przeciwnym wypadku wykonywana jest funkcja fail.
  • cleanup(success, fail) - funkcja czyszcząca zdjęcia w pamięci tymczasowej, działająca tylko w systemie iOS.
  • CameraOptions - obiekt zawierający opcje (stałe), jakie można przekazać do funkcji getPicture(), by określić zasady wykonywania lub wybierania zdjęć.
  • CameraPopoverHandle - zmienna, do której przypisywana jest funkcja wyświetlająca okno dialogowe w momencie uruchomienia funkcji getPicture(); zmienna ta jest użyteczna tylko w systemie iOS.
  • CameraPopoverOptions - obiekt zawierający opcje (stałe), jakie można przekazać w ramach dodatkowych opcji wewnątrz CameraOptions funkcji getPicture(), na potrzeby uruchomienia funkcji wskazanej przez CameraPopoverHandle; element ten jest użyteczny tylko w przypadku systemu iOS.

Ponieważ aplikację testujemy na Androidzie, skoncentrujemy się tylko na funkcji navigator.camera.getPicture() i opcjach dostępnych w ramach navigator.camera. CameraOptions.

Rysunek 2. W trakcie wykonywania zdjęcia z użyciem pluginu cordova-plugin-camera, na ekranie pojawiają się liczne przyciski, umożliwiające użytkownikowi zmianę trybu robienia zdjęć

Obiekt navigator.camera.CameraOptions zawiera następujące atrybuty:

  • quality - wartość od 0 do 100, określająca pożądaną jakość wykonywanych zdjęć. Domyślnie wartość tego parametru wynosi 50, przy czym plugin nie pozwala z góry sprawdzić parametrów wbudowanej kamery.
  • destinationType - to bardzo ważny parametr, bo określa, w jakim formacie chcemy otrzymać wykonane zdjęcie. Może to być:
    • DATA_URL, czyli string zakodowany algorytmem base64, zawierający dane binarnej fotografii,
    • FILE_URI, czyli adres URI pliku z wykonanym zdjęciem; jest to domyślny typ,
    • NATIVE_URI, czyli adres pliku podany zgodnie ze schematem katalogów z danymi, używanym w danym systemie operacyjnym;
  • sourceType - parametr ten pozwala określić, czy zdjęcie ma być wybrane z:
    • biblioteki (wartość PHOTOLIBRARY),
    • aparatu (wartość CAMERA - domyślna),
    • wbudowanej pamięci (wartość SAVEDPHOTOALBUM);
  • allowEdit - informuje, czy użytkownik może dokonać prostej obróbki zdjęcia przed jego przekazaniem do aplikacji (domyślnie nie);
  • encodingType - określa rodzaj kompresji (domyślnie JPEG, alternatywnie PNG);
  • targetWidth - określa szerokość, do której obraz ma być przeskalowany (domyślnie bez skalowania); parametru tego należy użyć tylko w połączeniu z użyciem parametru targetHeight;
  • targetHeight - określa wysokość, do której obraz ma być przeskalowany (domyślnie bez skalowania); parametru tego należy użyć tylko w połączeniu z użyciem parametru targetWidth;
  • mediaType - określa nośnik, z którego ma być wybrane zdjęcie, jeśli parametr sourceType wskazuje na inną opcję niż CAMERA; dostępne są trzy opcje: PICTURE, VIDEO (nagranie wideo) i ALLMEDIA;
  • correctOrientation - parametr określający, czy obraz ma być obrócony tak, by jego orientacja była zgodna z orientacją aparatu, w trakcie robienia zdjęcia;
  • saveToPhotoAlbum - parametr określający, czy zdjęcie wykonane kamerą ma być zapisane w systemowej galerii;
  • popoverOptions - dodatkowe ustawienia, określone za pomocą stałych zdefiniowanych w obiekcie CameraPopoverOptions;
  • cameraDirection - opcja umożliwiająca wybór kamery, za pomocą której ma być wykonywane zdjęcie; dostępne są opcje BACK i FRONT; domyślną jest BACK; niestety parametr ten jest w praktyce słabo obsługiwany.
Nagrywanie dźwięku

Rysunek 3. Ustawienia syntezatora mowy w telefonie

Do nagrania głosu użytkownika użyjemy pluginu cordova- plugin-media. Udostępnia on w programie klasę Media, której obiekty możemy tworzyć i korzystać z nich do rejestracji lub odtwarzania dźwięku. Konstruktor klasy Media przyjmuje cztery parametry:

  • src - adres URI, pod którym znajduje się lub ma się znajdować nagranie;
  • mediaSuccess - opcjonalna funkcja, która ma być wywołana po pomyślnym zakończeniu odtwarzania, nagrywania lub wstrzymania odtwarzania nagrania;
  • mediaError - opcjonalna funkcja, która ma być wywołana w przypadku wystąpienia błędu w obsłudze nagrania;
  • mediaStatus - opcjonalna funkcja, uruchamiana gdy stan nagrania się zmieni. Funkcji tej przekazywany jest parametr o jednej z następujących wartości:
    • MEDIA_NONE = 0,
    • MEDIA_STARTING = 1,
    • MEDIA_RUNNING = 2,
    • MEDIA_PAUSED = 3,
    • MEDIA_STOPPED = 4.

Po utworzeniu obiektu klasy Media możemy skorzystać z jego 10 metod i 2 atrybutów dostępnych tylko do odczytu:

  • getCurrentPosition() - funkcja zwraca aktualną pozycję w pliku audio,
  • getDuration() - funkcja zwraca łączną długość pliku audio,
  • play() - funkcja rozpoczyna lub wznawia odtwarzanie pliku audio,
  • pause() - funkcja pauzuje odtwarzanie pliku audio,
  • release() - funkcja zwalnia zasoby audio systemu operacyjnego,
  • seekTo() - funkcja przeskakuje do określonej pozycji w pliku audio,
  • setVolume() - funkcja pozwala ustawić głośność odtwarzania,
  • startRecord() - funkcja uruchamia rejestrację nagrania audio do pliku,
  • stopRecord() - funkcja zatrzymuje rejestrację nagrania audio do pliku,
  • stop() - funkcja zatrzymuje odtwarzanie pliku audio,
  • position - atrybut wyrażający w sekundach aktualną pozycję w pliku audio,
  • duration - atrybut wyrażający w sekundach łączną długość pliku audio.

Funkcja media.getCurrentPosition() przyjmuje jako parametry kolejno nazwy funkcji sukcesu i porażki. Funkcja media.getDuration() nie przyjmuje parametrów, a wyniki zwraca wyrażone w sekundach. Funkcja media. pause(), media.play(), media.release(), media.stop(), media. startRecord() i media.stopRecord() standardowo nie przyjmują parametrów ani nie zwracają żadnych wartości. Funkcja media.seekTo() przyjmuje jako parametr pozycję w pliku, wyrażoną w milisekundach. Funkcja media.setVolume() przyjmuje jako parametr wartość z zakresu od 0 do 1.

Aby nagrać głos użytkownika, tworzymy nowy obiekt klasy Media, wskazując jego ścieżkę oraz definiując funkcję sukcesu, tak by móc obsłużyć powstały plik. Następnie włączamy funkcję media.startRecord() i za pomocą funkcji setTimeout() ustawiamy wywołanie funkcji media.stopRecord() np. po 4 sekundach. Na koniec operacji z dźwiękiem wywołujemy funkcję media.release(), która jest istotna szczególnie na Androidzie i pozwala zwolnić używane zasoby.

Przesyłanie danych na serwer

Rysunek 4. Wybór języka głosu w jednym z modułów TTS telefonu urządzenia z Androidem

Gdy mamy już wykonane zdjęcie i nagrany głos użytkownika, przesyłamy je na serwer. Tym razem wykorzystamy w tym celu wygodną wtyczkę cordova-plugin-file-transfer. Ma ona jeden atrybut i trzy funkcje:

  • upload() - funkcja nakazująca przesłanie pliku na serwer,
  • download() - funkcja nakazująca pobranie pliku z serwera,
  • abort() - funkcja przerywająca transfer,
  • onprogress - atrybut, któremu przypisuje się nazwę funkcji do uruchomienia w momencie gdy nowa porcja danych zostanie przesłana. Pozwala np. na wyświetlanie paska postępu.

Na tym etapie istotna będzie tylko funkcja FileTransfer.upload(), która wymaga szerszego opisania. Funkcja FileTransfer.abort() nie przyjmuje żadnych parametrów, a funkcja FileTransfer.download() przyda się w dalszej części artykułu i wtedy ją opiszemy.

Funkcja FileTransfer.Upload() przyjmuje w kolejności następujące parametry:

  • fileURL - adres znajdującego się na urządzeniu pliku do załadowania na serwer,
  • server - adres URL serwera, pod który będzie wysyłane żądanie, zakodowany funkcją encodeURI(),
  • success - nazwa funkcji wywoływanej w przypadku powodzenia operacji,
  • error - nazwa funkcji wywoływanej w przypadku niepowodzenia operacji,
  • options - obiekt zawierający opcje przesyłanego żądania,
  • trustAllHosts - wartość false lub true, określająca, czy aplikacja ma umożliwiać przesyłanie plików do dowolnych serwerów; domyślnie false.

Dużą rolę odgrywają liczne opcje, przekazywane w postaci obiektu klasy FileUploadOptions, jako parametr options. Oto one:

  • fileKey - nazwa elementu zawierającego przesyłany plik, jaka zostanie przekazana w ramach wywołania HTTP do serwera,
  • fileName - nazwa pliku, pod jakim ma być on zapisany na serwerze,
  • httpMethod - rodzaj metody używanej do przesłania pliku; domyślnie POST, ale może być też PUT,
  • mimeType - rodzaj treści przesyłanego pliku, podany zgodnie z tabelą 1. z trzeciej części niniejszego kursu (EP04/2015); domyślnie image/jpeg,
  • params - obiekt zawierający opcjonalne pary nazw i wartości dodatkowych parametrów do przekazania do serwera w ramach żądania HTTP,
  • chunkedMode - opcja umożliwiająca określenie, czy duże pliki mają być dzielone na części (domyślnie true),
  • headers - tablica dodatkowych nagłówków (ich nazw i wartości), jakie mają być przesłane do serwera.

Tabela 3. Kody odpowiedzi serwerów HTTP

W naszym przypadku funkcję przesyłu plików na serwer będziemy wywoływać dwukrotnie - raz do przekazania zdjęcia, a raz do wysłania nagrania głosu. W obu przypadkach użyjemy metody POST. W przypadku powodzenia przesłania, do funkcji sukcesu przekazywany jest parametr w postaci obiektu FileUploadResult. Zawiera on cztery atrybuty:

  • bytesSent - liczba bajtów przesłany do serwera,
  • responseCode - kod odpowiedzi serwera (dostępne kody znalazły się w tabeli 3),
  • response - treść właściwej odpowiedzi serwera,
  • headers - nagłówki HTTP odpowiedzi serwera (aktualnie dostępne tylko w systemie iOS).

Jeśli odpowiedź była faktycznie pomyślna, to jej kod będzie wynosił 200, a interesująca nas treść, mówiąca o tym czy głos i zdjęcie użytkownika zostały pozytywnie zweryfikowane, będą w atrybucie FileUploadResult. response.

Pobieranie plików z serwera

W przypadku gdy użytkownik został pozytywnie zweryfikowany, nasza aplikacja pobiera spersonalizowany dla niego ekran powitalny i wyświetla go na ekranie. Treść ekranu mogłaby być zwracana bezpośrednio w odpowiedzi serwera na polecenie FileTransfer.upload(), ale może też zdarzyć się tak, że obraz powitalny znajduje się na zupełnie innym serwerze. Dla celów dydaktycznych przyjmiemy takie założenie i skorzystamy z funkcji FileTransfer.download(). Wymaga ona następujących parametrów:

  • source - wywoływany adres, zakodowany za pomocą funkcji encodeURI(),
  • target - miejsce zapisania pobieranego pliku na smartfonie,
  • success - funkcja wywoływana w razie powodzenia operacji,
  • error - funkcja wywoływana w razie niepowodzenia operacji,
  • trustAllHosts - wartość false lub true, określająca, czy aplikacja ma umożliwiać przesyłanie plików do dowolnych serwerów; domyślnie false,
  • options - dodatkowy, opcjonalny parametr, pozwalający na dosłanie dodatkowych nagłówków, w tym np. informacji o autoryzacji, jeśli taka jest wymagana.

W przypadku powodzenia, funkcja sukcesu otrzymuje jako parametr obiekt klasy FileEntry, który zawiera metodę toURL(), umożliwiającą uzyskanie lokalnego adresu pobranego pliku.

Synteza głosu

Na tym moglibyśmy zakończyć, ale obiecaliśmy, że wszystkie polecenia wydawane użytkownikowi, będą przekazywane głosowo. Aby uniknąć konieczności nagrywania i przechowywania plików audio dla każdej możliwej kombinacji zdarzeń i osób, skorzystamy z syntezy mowy, z użyciem wtyczki org.apache.cordova.speech. speechsynthesis.

Dokumentacja wybranej wtyczki jest bardzo skąpa, ale podstawowa obsługa syntezatora nie jest zbyt skomplikowana. Kluczowe jest stworzenie obiektu klasy SpeechSynthesisUtterance i przypisanie odpowiednich wartości jego atrybutom.

My wykorzystujemy tylko cztery: SpeechSynthesisUtterance.text, w którym zapisujemy treść komunikatu do wypowiedzenia i SpeechSynthesisUtterance.lang, w którym określamy język komunikatu.

Pozostałe dwa to funkcje, które mają się wykonać po rozpoczęciu syntezy mowy lub po jej zakończeniu (SpeechSynthesisUtterance.start i SpeechSynthesisUtterance.end) - przypisujemy im nazwy odpowiednich funkcji. Polecenie syntezy mowy wydajemy za pomocą funkcji speechSynthesis.speak(), której parametrem jest stworzony wcześniej obiekt klasy SpeechSynthesisUtterance.

Właściwy kod

Listing 1. Kod JavaScript programu z cz. 7 kursu

Kod JavaScript realizujący opisaną procedurę, z użyciem omówionych funkcji, przedstawiono na listingu 1. Kod HTML znalazł się na listingu 2. Program, po naciśnięciu jedynego, zdefiniowanego przycisku, kolejno uruchamia funkcje: app.scanBarcode(), app.takePhoto(), app.havePhoto(), app.recordVoice(), app.sendFiles(), app.getFiles() i app.welcome().

Ponieważ ich działanie jest asynchroniczne, są one wywoływane w momencie zakończenia działania poprzednich z nich. Co więcej, w razie wystąpienia jakiegoś błędu, proces jest wstrzymywany i aplikacja wyświetla informację o błędzie, po czym ponownie można rozpocząć uwierzytelnianie użytkownika. Wymienione funkcje korzystają też z funkcji app.speak(), która po polsku czyta zadany tekst i uruchamia kolejną, wskazaną funkcję.

Funkcja app.scanBarcode() uruchamia polecenie skanowania kodu kreskowego. W przypadku jego wykrycia sprawdza, czy jest to kod QR (format QR_CODE), a jeśli tak, testuje, czy wczytana z kodu wartość jest większa niż 1000.

Naturalnie w tym miejscu można by było testować identyfikator pod dowolnym innym kątem. Jeśli identyfikator wydaje się być poprawny, wczytany numer jest zapisywany, oraz wydawana jest komenda syntezująca mowę z poleceniem wykonania zdjęcia twarzy, która gdy tylko zacznie być wykonywana, włącza funkcję app. takePhoto().

Funkcja app.takePhoto() włącza polecenie wykonania pojedynczego zdjęcia, bez możliwości jego edycji i bez zapisywania do albumu ze zdjęciami. Wskazujemy też, że po pomyślnym wykonaniu zdjęcia, ma się uruchomić funkcja app.havePhoto().

Funkcja app.havePhoto() zapisuje adres zrobionego zdjęcia oraz uruchamia polecenie syntezy mowy, by nakazać użytkownikowi nagranie jego głosu z użyciem funkcji app.recordVoice().

Funkcja app.recordVoice() określa miejsce lokalizacji pliku z nagranym głosem oraz tworzy nowy obiekt klasy Media, wskazując przy tym, że po poprawnym nagraniu ma się uruchomić funkcja app.sendFiles(). Następnie uruchamiana jest funkcja Media.startRecording() oraz za pomocą funkcji setTimeout() zlecane jest wykonanie funkcji Media.stopRecording() po 4 sekundach.

Tu pojawia się pewien problem. Obiekt Media nie pozwala na przypisanie funkcji, która będzie się uruchamiała po faktycznym rozpoczęciu nagrywania (funkcja Media.mediaStatus działa w tym zakresie różnie, zależnie od platformy), a trzeba mieć na uwadze, że działa on asynchronicznie.

Listing 1. c.d.

Oznacza to, że polecenie Media. stopRecording() zostaje uruchomione po 4 sekundach od wydania polecenia Media.startRecording(), co wcale nie musi być równoznaczne z faktycznym rozpoczęciem nagrywania. Na wolniejszych urządzeniach i w zależności od stopnia aktualnego obciążenia systemu, faktyczne rozpoczęcie nagrywania może trochę potrwać.

Po wykonaniu nagrania uruchamia się funkcja app. sendFiles(), która wysyła dwa żądania HTTP do serwera o ustalonym adresie. Wraz z jednym żądaniem przesyłana jest wykonana wcześniej fotografia, a z drugim - nagranie dźwięku.

Dla ułatwienia pracy serwera, adres wywołań zawiera w sobie zeskanowany wcześniej identyfikator użytkownika, dzięki czemu serwer wie, z którymi wzorcami ma porównywać otrzymane pliki. Przesył plików wykonywany jest pojedynczo. Najpierw wysyłamy fotografię i jeśli zostanie ona poprawnie zweryfikowana (kod odpowiedzi serwera 200, odpowiedź "OK"), przesyłane jest nagranie audio.

Listing 2. Kod HTML powstałego programu

Jeśli ponownie otrzymamy informację o poprawnej weryfikacji, urządzenie przyjmuje, że użytkownik jest autoryzowany i uruchamia funkcję app.getFiles(), której celem jest pobranie spersonalizowanego ekranu powitalnego dla danego użytkownika.

Działanie funkcji app.getFiles() jest dosyć proste. Łączy się ona z serwerem o podanym adresie by pobrać plik i zapisać go do wskazanej lokalizacji w pamięci urządzenia. Gdy to się powiedzie, uruchamiana jest funkcja app.welcome(), która wita użytkownika głosem, odnosząc się do jego numeru identyfikacyjnego oraz wyświetla jego ekran startowy, podmieniając plik graficzny na ten pobrany z serwera. Oczywiście, treść odczytywana na głos mogłaby być już pobierana z pierwszego z serwerów i brzmieć zupełnie dowolnie, ale dla prostoty przykładu i zwięzłości kodu nie wprowadzaliśmy takich dodatkowych opcji.

Nowości w platformie Cordova

Nowa wersja platformy Cordova, którą zainstalowaliśmy w tym kursie zawiera szereg zmian, a przede wszystkim usprawnień, które warto omówić w skrócie. Teoretycznie zmiany obejmują po prostu przede wszystkim podmianę używanych bibliotek na nowsze wersje, ale w praktyce wiąże się to z modyfikacjami, na które wypada zwrócić uwagę.

Zmienia się wygląd procesu kompilacji, który teraz przebiega nieco szybciej i jest bardziej zwięzły graficznie - nieistotne linijki z informacjami są czyszczone i pozostają tylko ważniejsze komunikaty, dzięki czemu całość jest trochę bardziej czytelna. Zmieniła się też lokalizacja gotowych plików.

Od teraz są one umieszczane w katalogu wybranej platformy, w podkatalogu -w przypadku Androida - build\outputs\apk. Zmodyfikowano także ich domyślne nazwy - teraz noszą miano android-debug. apk i android-debug-unaligned.apk. Reszta zmian wydaje się nieistotna z punktu widzenia średnio-zaawansowanego użytkownika.

Warto tylko zwrócić uwagę na nowe repozytorium wtyczek Cordovy (rysunek 5). Jest ono o tyle mniej wygodne, że nie pozwala na wyszukiwanie po popularności pluginów.

Rysunek 5. Nowe repozytorium wtyczek Cordovy, obsługiwane przez mechanizm npm

Warto jeszcze wspomnieć o przygotowanej przez nas funkcji app.speak(), która przyjmuje trzy parametry: treść komunikatu oraz odniesienia do funkcji uruchamianych po rozpoczęciu i po zakończeniu czytania wiadomości na głos. W funkcji tej na stałe ustawiamy język jako "pl", dzięki czemu jest on preferowanym językiem mechanizmu TTS (Text To Speech).

Może się okazać, że obsługa polskiego języka wymaga zainstalowania go i skonfigurowania na telefonie. Jeśli tak, należy wejść do ustawień i poszukać kategorii "Język i wprowadzanie". Może ona się znajdować w dziale "Moje urządzenie".

Wewnątrz wymienionej kategorii powinna się znaleźć pozycja "Opcje syntezatora mowy" (rysunek 3), w której ramach można wybrać mechanizm odpowiadający za czytanie tekstu na głos. Kliknięcie na ustawienia wybranego modułu TTS pozwala wybrać interesujący nas język (rysunek 4).

W standardowym projekcie pojawi się także jeszcze jeden problem, związany z kodowaniem znaków. Domyślnie nie obsługuje on języka polskiego, w efekcie czego, próba odczytania (czy nawet wyświetlenia) jakichkolwiek zdań z polskimi znakami diakrytycznymi poskutkuje wyświetleniem się tzw. krzaczków. Dlatego należy wprowadzić do pliku index.html linijkę informującą o zastosowaniu kodowania UTF-8 (listing 2).

Podsumowanie

W niniejszej części kursu pokazaliśmy, jak korzystać z kamery i mikrofonu w telefonie. Czytelnik powinien też samodzielnie być w stanie dojść do tego, jak skorzystać z zapisanej galerii i posługiwać się plikami multimedialnymi.

Zademonstrowaliśmy również mechanizm wgrywania i pobierania plików za pomocą protokołu HTTP. Zaprezentowaliśmy też sposób korzystania z kodów graficznych, które mogą być bardzo użyteczne w wielu aplikacjach. Całość uzupełnia obsługa mechanizmu TTS, czyli syntezatora mowy, która pozwala znacząco uatrakcyjnić działanie programu.

Przykładowy program ma jednak kilka mankamentów, które można by było usprawnić. Przykładowo dużym ograniczeniem mogą być ustawienia modułów do skanowania kodów kreskowych i robienia zdjęć, które w praktyce wymuszają użycie tylnej kamery i samodzielnie prezentują na ekranie komunikaty, które mogłyby być mylące dla użytkownika.

Trzeba też mieć na uwadze, że skanowanie kodu QR czy kreskowego nie wprowadza praktycznie żadnego dodatkowego bezpieczeństwa, choć może być uzasadnione ze względu na obciążenie serwera, któremu znacznie łatwiej będzie rozpoznawać twarz konkretnej osoby, niż całej grupy upoważnionego personelu.

Gdyby jednak chcieć wprowadzić dodatkowy mechanizm bezpieczeństwa, w oparciu o identyfikatory, można by się pokusić o zastosowanie czytnika znaczników RFID czy NFC, których podrobienie jest nieco trudniejsze niż kodu graficznego. Postaramy się pokazać, jak skorzystać z tych mechanizmów w jednym w kolejnych odcinków kursu.

Marcin Karbowniczek, EP

Pozostałe artykuły

Wyświetlacz firmy Riverdi z modułem rozszerzającym dla Arduino

Numer: Maj/2016

Dołączenie kolorowego wyświetlacza TFT z pojemnościowym panelem dotykowym jako modułu rozszerzającego Arduino, tworzy możliwości budowy urządzeń z interfejsem graficznym o profesjonalnym wyglądzie i sposobie działania. W artykule - oprócz opisu wyświetlacza i modułu - sporo uwagi zostanie poświęcone procedurom programistycznym pozwalającym na uruchomienie potencjału drzemiącego w wyświetlaczu.

Pierwsze kroki z FPGA. Szkoła MAXimatora - pierwszy projekt z edytorem schematów. cz. 2

Numer: Maj/2016

W pierwszej części kursu przedstawiliśmy podstawowe informacje na temat tego skąd i jakie narzędzia programowe będą nam potrzebne do rozpoczęcia przygody z układami FPGA i zestawem MAXimator. W tej części pokażemy jak krok-po-kroku przygotować pierwszy projekt. Ze względu na dostępny w bezpłatnej wersji programu Quartus Prime zestaw bogato wyposażonych bibliotek oraz łatwość przygotowania projektu z wykorzystaniem edytora ...

Renesas Synergy - Internet Rzeczy w zasięgu ręki. cz. 1

Numer: Maj/2016

Ktoś, kiedyś (podobno był to Kevin Ashton) wpadł na pomysł, aby urządzenia powszechnego użytku i układy sterownia na przykład oświetleniem, połączyć za pomocą sieci komputerowej, by mogły pomiędzy sobą wymieniać informacje. Nie wiem dlaczego, ale często jako przykład urządzenia dołączanego do sieci jest podawana lodówka domowa. Może dlatego, że w obecnym stadium rozwoju cywilizacji, lodówka i jej zawartość wymagają ...

STM-owa układanka: generator PWM

Numer: Maj/2016

Tematem artykułu jest odpowiedź na pytanie: jak zmusić kontroler STM32F411 do wygenerowania przebiegu PWM o pożądanych parametrach? Mam zamiar udowodnić, że za pomocą narzędzi wspomagających pisanie oprogramowania dla STM32, rozwiązanie problemu wcale nie musi być trudne.

Podstawy programowania STM32F746G-DISCO. Jak zbudować oscyloskop z FFT z użyciem STM32F746G-DISCO

Numer: Maj/2016

Zaczynając pisać oprogramowanie dla systemu wbudowanego zawsze warto zwrócić uwagę na trzy czynniki mające znaczący wpływ na jakość i czas powstawania projektu. Są to: dostępność sprzętowych zestawów deweloperskich, bibliotek, oraz narzędzi programistycznych. Zestawy deweloperskie zawierające dodatkowe peryferia umożliwiają szybkie tworzenie prototypów bez konieczności projektowania dodatkowego sprzętu. Zwykle dostarczane ...

Mobilna
Elektronika
Praktyczna

Elektronika Praktyczna

Maj 2017

PrenumerataePrenumerataKup w kiosku wysyłkowym

Elektronika Praktyczna Plus

lipiec - grudzień 2012

Kup w kiosku wysyłkowym