cdf439db26095b714d4dce99d4cd6d1932baddc3
[face-privacy-filter.git] / docs / face-privacy-filter.md
1 <!---
2 .. ===============LICENSE_START=======================================================
3 .. Acumos CC-BY-4.0
4 .. ===================================================================================
5 .. Copyright (C) 2017-2018 AT&T Intellectual Property & Tech Mahindra. All rights reserved.
6 .. ===================================================================================
7 .. This Acumos documentation file is distributed by AT&T and Tech Mahindra
8 .. under the Creative Commons Attribution 4.0 International License (the "License");
9 .. you may not use this file except in compliance with the License.
10 .. You may obtain a copy of the License at
11 ..
12 ..      http://creativecommons.org/licenses/by/4.0
13 ..
14 .. This file is distributed on an "AS IS" BASIS,
15 .. WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 .. See the License for the specific language governing permissions and
17 .. limitations under the License.
18 .. ===============LICENSE_END=========================================================
19 -->
20
21 # Face Privacy Filter Guide
22 This model contains the capability to generate two submodels:
23 one for face detection and oen for face suppression through pixelation.
24
25 # Face Detection Model Guide
26 A model example for face detection from images within Acumos.
27
28 ## Background
29 This model analyzes static images to detect frontal faces.  It utilizes a
30 frontal face cascade from the
31 [OpenCV](https://opencv.org/) image processing library.
32 Model load time is optimized by creating and maintaining the fixed cascade
33 in memory while operating.  Demonstrating the capability of custom classes
34 and requisite member variables, the cascade is serialized with the model as
35 a string asset which is deserialized and loaded from disk upon startup.
36
37 ## Usage
38 Input to the model is an array of one or more tuples of image binary data
39 and a binary mime type.  The position of the image within the array is utilized
40 in the output signature as a zero-based index.  For example if three images
41 were sent, the output probabilities would have 0, 1, and 2 as index values.
42 The output from this model is a repeated array of detected regions for each
43 face in each input image.  So that image data can be cascaded to other models,
44 the original image and mime type are also embedded with the special
45 region code `-1` within the output.
46
47 A web demo is included with the source code, available via the
48 [Acumos Gerrit repository](https://gerrit.acumos.org/r/gitweb?p=face-privacy-filter.git;a=summary)
49 or the mirrored [Acumos Github repository](https://github.com/acumos/face-privacy-filter).
50 It utilizes a protobuf javascript library and processes
51 input images to detect all faces within an image.
52
53 ## Performance
54 As this model wraps a preexisting cascade, no formal testing evaluation
55 was performed.  However, experimental usage indicates the following highlights.
56
57 * Faces that are too small can easily be missed.
58 * Frontal faces perform best, with some tolerance of about 5-10 degrees off-plane rotation.
59 * Detection is fairly sensitive to rotation in plane, so try not to let subject faces rotate more than 15 degrees.
60 * Dark or low contrast images generally do not perform well for detection.
61
62 ## More Information
63 As this model uses a generic cascade from OpenCV, readers can easily
64 substituted or update those models with no change in API endpoint required.
65 Additionally, secondary verification methods using pixel validation (e.g.
66 sub-part verification, symmetry tests, or more advanced parts-based
67 verifications) may dramatically improve the false alarm rate, although
68 the current model was tuned for precision (instead of recall) already.
69
70
71
72 # Face Pixelation Model Guide
73 A model example to anonymize faces from images via pixelation within Acumos.
74
75 ## Background
76 This model accepts detected faces and their source image and produces
77 pixelated image results.  It utilizes simple image manipulation methods
78 from the [OpenCV](https://opencv.org/) image processing library.
79 This model is a demonstration of a
80 transform operation: there is neither state nor static model data
81 utilized and all data comes from the upstream input.
82
83
84 ## Usage
85 Input to the model is an array of one or more tuples of detected face regions
86 as well as the original image binary data and a binary mime type.  The row or
87 sample containing the original image is specially marked by a region code
88 of ‘-1’.  The output from this model is an array of images (one for each
89 unique image input) with the detected face regions blurred via pixelation.
90
91 A web demo is included with the source code, available via the
92 [Acumos Gerrit repository](https://gerrit.acumos.org/r/gitweb?p=face-privacy-filter.git;a=summary).
93 It utilizes a protobuf javascript library and processes
94 input images to detect all faces within an image.
95
96 ## Performance
97 As this model is a data transform example that flattens detected image regions into images.
98
99 * Faces not included in the detected regions are ignored.
100 * Faces whose images do not exist in the input (e.g. region and image indices
101   are provided, but no original image) are ignored.
102 * The mime type for the output image is constructed to mimic the input image and mime type.
103
104 ## More Information
105 This model uses processing methods from OpenCV, so any number of additional
106 privacy methods could be employed, like blurring, substitution, etc. More
107 advanced techniques that still allow some information processing (e.g.
108 demographics but not recognition) may also be easily employed with this
109 system, should the right method arise.
110
111
112
113 # Source Installation
114 This section is useful for source-based installations and is not generally intended
115 for catalog documentation.
116
117 ## Image Analysis for Face-based Privacy Filtering
118 This source code creates and pushes a model into Acumos that processes
119 incoming images and outputs a detected faces as well as the original image
120 input (if configured that way).  The model uses a [python interface](https://pypi.python.org/pypi/opencv-python)
121 to the [OpenCV library](https://opencv.org/) to detect faces and perform
122 subsequent image processing.  This module does not support training
123 at this time and instead uses a pre-trained face cascade, which is
124 included (from OpenCV) in this module.
125
126 ### Package dependencies
127 Package dependencies for the core code and testing have been flattened into a
128 single file for convenience. Instead of installing this package into your
129 your local environment, execute the command below.
130
131 ```
132 pip install -r requirments.txt
133 ```
134
135 **Note:** If you are using an [anaconda-based environment](https://anaconda.org),
136 you may want to try
137 installing these packages [directly](https://docs.anaconda.com/anaconda-repository/user-guide/tasks/pkgs/download-install-pkg).
138 to avoid mixing of `pip` and `conda` package stores.
139
140 ### Usage
141 This package contains runable scripts for command-line evaluation,
142 packaging of a model (both dump and posting), and simple web-test
143 uses.   All functionality is encapsulsted in the `filter_image.py`
144 script and has the following arguments.
145
146 ```
147 usage: filter_image.py [-h] [-p PREDICT_PATH] [-i INPUT]
148                        [-c] [-s] [-f {detect,pixelate}]
149                        [-a PUSH_ADDRESS] [-d DUMP_MODEL]
150
151 optional arguments:
152   -h, --help            show this help message and exit
153   -p PREDICT_PATH, --predict_path PREDICT_PATH
154                         save detections from model (model must be provided via
155                         'dump_model')
156   -i INPUT, --input INPUT
157                         absolute path to input data (image or csv, only during
158                         prediction / dump)
159   -c, --csv_input       input as CSV format not an image
160   -s, --suppress_image  do not create an extra row for a returned image
161   -f {detect,pixelate}, --function {detect,pixelate}
162                         which type of model to generate
163   -a PUSH_ADDRESS, --push_address PUSH_ADDRESS
164                         server address to push the model (e.g.
165                         http://localhost:8887/v2/models)
166   -d DUMP_MODEL, --dump_model DUMP_MODEL
167                         dump model to a pickle directory for local running
168 ```
169
170
171
172 # Example Usages
173 Please consult the [tutorials](tutorials) dirctory for usage examples
174 including an in-place [web page demonstration](tutorials/lesson3.md).
175
176 ## Face-based Use Cases
177 This project includes a number of face-based use cases including raw
178 detection, blurring, and other image-based modifications based on
179 detected image regions.
180
181 * **Face Detection Use-case** - This source code creates and pushes a model that processes
182 incoming images and outputs detected faces.
183
184 # Release Notes
185 The [release notes](release-notes.md) catalog additions and modifications
186 over various version changes.
187
188 # Metadata Examples
189 * [example detect catalog image](catalog_image_detect.png) - [url source](https://flic.kr/p/xqw25C)
190 * [example blur catalog image](catalog_image_blur.png)  - [url source](https://flic.kr/p/bEgYbs)