Nhận dạng cột mốc bằng Firebase ML trên iOS

Bạn có thể sử dụng Firebase ML để nhận dạng các địa danh nổi tiếng trong hình ảnh.

Trước khi bắt đầu

    Nếu bạn chưa thêm Firebase vào ứng dụng của mình, hãy làm như vậy bằng cách làm theo các bước trong hướng dẫn bắt đầu .

    Sử dụng Trình quản lý gói Swift để cài đặt và quản lý các phần phụ thuộc của Firebase.

    1. Trong Xcode, khi dự án ứng dụng của bạn đang mở, hãy điều hướng đến File > Add Packages .
    2. Khi được nhắc, hãy thêm kho lưu trữ SDK nền tảng Firebase của Apple:
    3.   https://github.com/firebase/firebase-ios-sdk.git
    4. Chọn thư viện Firebase ML.
    5. Thêm cờ -ObjC vào phần Cờ liên kết khác trong cài đặt bản dựng của mục tiêu của bạn.
    6. Khi hoàn tất, Xcode sẽ tự động bắt đầu phân giải và tải xuống các phần phụ thuộc của bạn ở chế độ nền.

    Tiếp theo, thực hiện một số thiết lập trong ứng dụng:

    1. Trong ứng dụng của bạn, hãy nhập Firebase:

      Nhanh

      import FirebaseMLModelDownloader

      Mục tiêu-C

      @import FirebaseMLModelDownloader;
  1. Nếu bạn chưa kích hoạt API dựa trên đám mây cho dự án của mình, hãy thực hiện ngay bây giờ:

    1. Mở trang API Firebase ML của bảng điều khiển Firebase.
    2. Nếu bạn chưa nâng cấp dự án của mình lên gói giá Blaze, hãy nhấp vào Nâng cấp để thực hiện. (Bạn sẽ chỉ được nhắc nâng cấp nếu dự án của bạn không nằm trong gói Blaze.)

      Chỉ các dự án cấp Blaze mới có thể sử dụng API dựa trên Đám mây.

    3. Nếu API dựa trên đám mây chưa được bật, hãy nhấp vào Bật API dựa trên đám mây .

Định cấu hình trình phát hiện mốc

Theo mặc định, Trình phát hiện đám mây sử dụng phiên bản ổn định của mô hình và trả về tối đa 10 kết quả. Nếu bạn muốn thay đổi một trong hai cài đặt này, hãy chỉ định chúng bằng đối tượng VisionCloudDetectorOptions như trong ví dụ sau:

Nhanh

let options = VisionCloudDetectorOptions()
options.modelType = .latest
options.maxResults = 20

Mục tiêu-C

  FIRVisionCloudDetectorOptions *options =
      [[FIRVisionCloudDetectorOptions alloc] init];
  options.modelType = FIRVisionCloudModelTypeLatest;
  options.maxResults = 20;
  

Ở bước tiếp theo, chuyển đối tượng VisionCloudDetectorOptions khi bạn tạo đối tượng Cloud detector.

Chạy trình dò ​​mốc

Để nhận dạng các mốc trong hình ảnh, hãy chuyển hình ảnh dưới dạng UIImage hoặc CMSampleBufferRef tới phương thức detect(in:) của VisionCloudLandmarkDetector :

  1. Lấy một phiên bản của VisionCloudLandmarkDetector :

    Nhanh

    lazy var vision = Vision.vision()
    
    let cloudDetector = vision.cloudLandmarkDetector(options: options)
    // Or, to use the default settings:
    // let cloudDetector = vision.cloudLandmarkDetector()
    

    Mục tiêu-C

    FIRVision *vision = [FIRVision vision];
    FIRVisionCloudLandmarkDetector *landmarkDetector = [vision cloudLandmarkDetector];
    // Or, to change the default settings:
    // FIRVisionCloudLandmarkDetector *landmarkDetector =
    //     [vision cloudLandmarkDetectorWithOptions:options];
    
  2. Để gọi Cloud Vision, hình ảnh phải được định dạng dưới dạng chuỗi được mã hóa base64. Để xử lý UIImage :

    Nhanh

    guard let imageData = uiImage.jpegData(compressionQuality: 1.0) else { return }
    let base64encodedImage = imageData.base64EncodedString()

    Mục tiêu-C

    NSData *imageData = UIImageJPEGRepresentation(uiImage, 1.0f);
    NSString *base64encodedImage =
      [imageData base64EncodedStringWithOptions:NSDataBase64Encoding76CharacterLineLength];
  3. Sau đó, chuyển hình ảnh sang phương thức detect(in:) :

    Nhanh

    cloudDetector.detect(in: visionImage) { landmarks, error in
      guard error == nil, let landmarks = landmarks, !landmarks.isEmpty else {
        // ...
        return
      }
    
      // Recognized landmarks
      // ...
    }
    

    Mục tiêu-C

    [landmarkDetector detectInImage:image
                         completion:^(NSArray<FIRVisionCloudLandmark *> *landmarks,
                                      NSError *error) {
      if (error != nil) {
        return;
      } else if (landmarks != nil) {
        // Got landmarks
      }
    }];
    

Nhận thông tin về các địa danh được công nhận

Nếu nhận dạng mốc thành công, một mảng đối tượng VisionCloudLandmark sẽ được chuyển đến trình xử lý hoàn thành. Từ mỗi đối tượng, bạn có thể lấy thông tin về một mốc được nhận dạng trong ảnh.

Ví dụ:

Nhanh

for landmark in landmarks {
  let landmarkDesc = landmark.landmark
  let boundingPoly = landmark.frame
  let entityId = landmark.entityId

  // A landmark can have multiple locations: for example, the location the image
  // was taken, and the location of the landmark depicted.
  for location in landmark.locations {
    let latitude = location.latitude
    let longitude = location.longitude
  }

  let confidence = landmark.confidence
}

Mục tiêu-C

for (FIRVisionCloudLandmark *landmark in landmarks) {
   NSString *landmarkDesc = landmark.landmark;
   CGRect frame = landmark.frame;
   NSString *entityId = landmark.entityId;

   // A landmark can have multiple locations: for example, the location the image
   // was taken, and the location of the landmark depicted.
   for (FIRVisionLatitudeLongitude *location in landmark.locations) {
     double latitude = [location.latitude doubleValue];
     double longitude = [location.longitude doubleValue];
   }

   float confidence = [landmark.confidence floatValue];
}

Bước tiếp theo