Dev Note

Play DEX 최적화 25% 기준 대응기 — R8을 꺼 버린 라이브러리 규칙 한 줄

2026년 10월, Play Console 에 "Play 표준 변경사항이 적용되기 전에 앱의 메모리 사용량을 최적화하세요"라는 알림이 떴습니다. 프로덕션 앱 8개의 Android vitals 대시보드 전부에 경고가 붙어 있었습니다. Flutter·Capacitor·웹뷰 래퍼 앱이 섞여 있었고, 경고는 비슷해도 원인은 앱마다 달랐습니다.

가장 오래 걸린 건 minifyEnabled true 와 proguard-android-optimize.txt 가 제대로 적혀 있는데도 "최적화가 꺼져 있다"고 나온 앱이었습니다. 원인은 제 빌드 파일이 아니라 결제 SDK 가 끌어온 라이브러리의 ProGuard 규칙 한 줄이었습니다.

Play 가 요구하는 것

Android Developers Blog에 따르면 2027년 2월부터 앱은 동적 메모리(익명 RSS + 스왑), 백그라운드 비트맵 메모리, DEX 코드 최적화 기준을 맞춰야 하고, 못 맞추면 노출과 게시 기능이 제한될 수 있습니다. DEX 쪽은 R8 같은 도구로 최적화·축소·난독화 커버리지를 최소 25% 확보하라는 요구입니다.

Play 고객센터 문서에는 이 요건이 DEX 10MB 초과 앱(게임은 50MB)에만 강제된다고 적혀 있습니다. 그런데 Vitals 권장 조치는 크기와 상관없이 떴습니다. DEX 7.1MB 앱에도 "앱이 최적화되지 않았습니다"가 붙었습니다. 메모리 항목은 아직 현장 데이터가 집계되지 않아, 빌드 결과물만으로 판정되는 DEX 최적화부터 잡았습니다.

Vitals 의 R8 항목앱
"앱이 최적화되지 않았습니다"Capacitor 1개, Flutter 1개
R8 은 도는데 최적화가 꺼져 있다는 판정Flutter 1개
AGP 9.0 업그레이드, 최적화된 리소스 축소 권장나머지 5개

판정 근거는 AAB 안에 있다

콘솔에 올리기 전에 로컬에서 같은 숫자를 봐야 반복이 빨라집니다. AAB 안의 BUNDLE-METADATA/com.android.tools/r8.json 에 R8 이 어떤 옵션으로 돌았는지와 결과 통계가 들어 있습니다.

unzip -p app-release.aab BUNDLE-METADATA/com.android.tools/r8.json | python3 -m json.tool

"options": { ..., "isOptimizationsEnabled": true, ... },
"stats": {
    "noObfuscationPercentage": 70.37,
    "noOptimizationPercentage": 70.9,
    "noShrinkingPercentage": 70.45
},
"resourceOptimization": { "isOptimizedShrinkingEnabled": true }

위 값은 Vitals 가 "낮은 최적화 비율 29%"라고 한 앱의 번들입니다. 100 − 70.9 = 29.1 입니다. 다른 두 앱도 67.92 → 32%, 55.58 → 44% 로 Vitals 숫자와 일치했습니다. 공식 문서에서 이 대응을 본 적은 없지만 제 앱 세 개에서는 어긋난 적이 없습니다.

이 파일에서 두 경우를 구분하면 진단 방향이 갈립니다.

  • isOptimizationsEnabled: false — 스위치 자체가 꺼진 상태입니다. keep 규칙은 특정 클래스·멤버만 지키므로 이 스위치를 끄지 못합니다. 어딘가에 -dontoptimize 같은 전역 옵션이 있습니다.
  • 스위치는 켜졌는데 비율이 낮음 — 넓은 keep 규칙이 코드 상당 부분을 최적화에서 빼고 있습니다.

사례 1 — 템플릿 기본값 그대로였던 두 앱

Capacitor 로 만든 유아용 한글 앱은 Capacitor CLI 안드로이드 템플릿(8.5 기준)의 기본 설정 그대로였습니다.

release {
    minifyEnabled false
    proguardFiles getDefaultProguardFile('proguard-android.txt'), 'proguard-rules.pro'
}

여기서 minifyEnabled 만 켜면 절반만 고친 것입니다. AGP 기본 파일 proguard-android.txt 안에 -dontoptimize 가 들어 있어서, 축소·난독화는 되지만 최적화는 꺼진 채 나갑니다. proguard-android-optimize.txt 로 바꾸고 shrinkResources true 를 더했습니다. 플러그인을 리플렉션으로 찾는 Capacitor 가 깨질까 걱정했지만, @capacitor/android 의 consumer 규칙이 Plugin 하위 클래스와 @PluginMethod 를 이미 지키고 있어 앱 규칙은 더할 필요가 없었습니다.

Flutter 보드게임 앱은 isMinifyEnabled = false 가 명시돼 있었습니다. 켜고 optimize 파일을 지정한 것이 전부입니다. 엔진용 keep 규칙은 Flutter Gradle 플러그인이 붙여 줍니다.

DEX 는 7.1MB → 0.8MB, 9.0MB → 1.0MB 로 줄었고 최적화 비율은 약 81%, 87% 가 됐습니다. 출시 당일 두 앱의 Vitals 항목은 경미 단계로 내려갔습니다.

사례 2 — 설정은 맞는데 최적화가 꺼져 있던 앱

강의 노트 앱(Flutter)은 처음부터 minify 와 optimize 파일이 켜져 있었는데 r8.json 이 isOptimizationsEnabled: false 였습니다.

처음 의심한 것

# Riverpod + freezed codegen — preserve generated classes referenced by name.
-keep class **.*$* { *; }

** 는 패키지 구분자를 포함한 아무 이름이므로, 이 규칙은 모든 라이브러리의 내부·익명 클래스를 통째로 지킵니다. 목적도 성립하지 않습니다. Riverpod·freezed 는 Dart 코드이고 릴리스에서 Dart 는 libapp.so 로 AOT 컴파일됩니다. R8 은 Java/Kotlin 바이트코드만 봅니다. 나쁜 규칙이지만, 앞의 기준으로 보면 비율을 깎을 뿐 스위치를 끄지는 못합니다. 다른 곳에 전역 옵션이 있어야 했습니다.

진단: 합쳐진 설정 파일을 본다

R8 이 받는 규칙은 앱 파일, AGP 기본 파일, Flutter 규칙, 모든 의존성 AAR 의 consumer 규칙을 합친 것입니다. 제 빌드 환경에서는 릴리스 빌드를 하면 이 합본이 configuration.txt 로 남고, 구간마다 출처 주석이 붙었습니다.

grep -n -- '-dontoptimize' build/app/outputs/mapping/release/configuration.txt   # Flutter
grep -n -- '-dontoptimize' app/build/outputs/mapping/release/configuration.txt   # 일반 프로젝트

# The proguard configuration file for the following section is …/purchases-store-amazon-10.14.1/proguard.txt
-dontwarn com.amazon.**
-keep class com.amazon.** {*;}
-keepattributes *Annotation*
-dontoptimize

RevenueCat purchases_flutter 10.4.3 이 끌어온 purchases-store-amazon 10.14.1 의 마지막 줄이었습니다. Amazon 앱스토어에 나가지도 않는 앱에서, 의존성으로 딸려 온 모듈 하나가 앱 전체의 최적화를 끄고 있었습니다.

R8 의 전역 옵션은 어느 파일에 적혔든 앱 전체에 적용됩니다. 라이브러리 선택 가이드도 keep 규칙은 더해지기만 하고, 라이브러리가 최적화를 끄는 규칙을 넣으면 프로젝트 전체가 꺼진다고 설명합니다. Gradle 캐시에서 비교해 보니 10.19.1 에는 이 줄이 없었고, 그 버전을 끌어오는 purchases_flutter 10.11.0 이상으로 올렸습니다. 누가 되돌리지 않도록 버전 제약 옆에 이유를 주석으로 남겼습니다.

AGP 9 에서는 android.r8.globalOptionsInConsumerRules.disallowed 가 기본으로 켜져, AAR·JAR 의존성의 전역 옵션이 무시되고 configuration.txt 에 # REMOVED CONSUMER RULE: -dontoptimize 주석이 남는다고 AGP 9.0 릴리스 노트에 나와 있습니다. 이 함정은 주로 AGP 8.x 프로젝트의 문제이고, 당시 이 앱은 AGP 8.9 였습니다.

넓은 규칙을 지운 자리

**.*$* 와 Dart 대상 규칙을 지우고, Java 쪽에서 실제로 리플렉션을 쓰는 곳만 지켰습니다. flutter_local_notifications 는 예약 알림을 Gson JSON 으로 저장했다가 다시 읽는데, 난독화된 필드 이름은 빌드마다 달라질 수 있어 지켜 두지 않으면 업데이트 후 이전 예약을 못 읽습니다.

-keep class com.dexterous.flutterlocalnotifications.models.** { *; }
-keepattributes Signature
-keep,allowobfuscation,allowshrinking class * extends com.google.gson.reflect.TypeToken

새로 설치하는 테스트로는 안 보이는 문제라, keep 을 지울 때는 이전 버전이 남긴 데이터를 읽을 수 있는지도 따져야 합니다. 결과는 DEX 19.2MB → 8.2MB, 최적화 비율 약 46% 였습니다.

사례 3 — 켜져 있지만 29% 였던 앱

외국인용 한글 학습 앱(Capacitor)은 "낮은 최적화 비율 29%"였습니다. 기준은 넘지만 여유가 4%p 였습니다. 원인은 두 갈래였습니다.

  • 라이브러리의 패키지 전체 keep — RevenueCat 안드로이드 SDK 의 consumer 규칙 -keep class com.revenuecat.** { *; }. 전역 옵션이 아니라 AGP 9 에서도 그대로 적용됩니다.
  • 앱이 쓴 통째 keep — com.getcapacitor.**, org.apache.cordova.**, Play Billing, 앱 패키지 전체. Capacitor 와 Play Billing 의 consumer 규칙, @JavascriptInterface 를 지키는 AGP 기본 파일이 이미 하는 일이라 지웠습니다.

이 앱은 안드로이드 결제를 Play Billing 직접 호출 플러그인으로 처리하고 RevenueCat 은 iOS 에서만 씁니다. 그런데 Capacitor 는 따로 지정하지 않으면 package.json 의 플러그인을 다 넣습니다. Capacitor 설정의 android.includePlugins 로 안드로이드 쪽만 골랐습니다.

"android": {
  "includePlugins": ["@capacitor/app"]
}

noOptimizationPercentage 는 70.9 → 14.9(최적화 약 85%), DEX 는 4.6MB → 1.2MB 가 됐습니다. 안드로이드에서도 RevenueCat 을 쓰는 두 앱(32%, 44%)은 이 방법을 못 씁니다. AGP 8.4 이상의 optimization.keepRules { it.ignoreFrom(...) } 로 라이브러리 규칙을 걸러낼 수는 있지만 그러면 SDK 의 리플렉션 지점을 제가 대신 지켜야 해서, 결제 코드에는 적용하지 않았습니다.

AGP 9 로 올리면서 생긴 일

남은 두 권장 항목 때문에 앱 5개를 AGP 9.4.1·Gradle 9.6.1 로 올렸습니다. 릴리스 노트상 R8 관련 기본값 중 영향을 준 것은 이렇습니다(모두 false → true).

속성바뀐 내용
android.r8.proguardAndroidTxt.disallowedproguard-android.txt 지원 중단
android.r8.globalOptionsInConsumerRules.disallowed의존성의 전역 옵션 무시
android.r8.optimizedResourceShrinking코드와 리소스를 함께 보고 리소스를 더 적게 남김
android.r8.strictFullModeForKeepRules-keep class A 가 기본 생성자를 지키지 않음

Flutter 앱은 당시 Flutter 3.41 의 플러그인들이 Kotlin Gradle 플러그인과 이전 DSL 을 써서 android.builtInKotlin=false, android.newDsl=false 를 넣었습니다. 또 AGP 9 는 라이브러리가 요구하는 compileSdk 를 검사해서, compileSdk 34 로 고정된 플러그인 때문에 빌드가 멈췄습니다. 루트 build.gradle 에서 36 미만인 라이브러리 모듈만 36 으로 컴파일하게 했습니다.

subprojects {   // evaluationDependsOn(":app") 블록보다 위에 둔다
    afterEvaluate { project ->
        def android = project.extensions.findByName("android")
        if (android != null && project.plugins.hasPlugin("com.android.library")) {
            def sdk = (android.compileSdkVersion ?: "").replaceAll("[^0-9]", "")
            if (sdk && sdk.toInteger() < 36) android.compileSdkVersion 36
        }
    }
}

r8.json 의 isOptimizedShrinkingEnabled 는 true 가 됐습니다. 문제는 표의 아래 두 줄이었습니다.

함정 1: 이름으로 찾는 리소스가 사라진다

음악 생성 앱(Flutter)의 AGP 9 빌드를 출시 전 태블릿에서 점검하다가, 소리는 나는데 알림창에 재생 컨트롤이 없는 것을 발견했습니다. dumpsys media_session 은 active=false, 로그에는 이 예외가 반복됐습니다.

You must specify an icon resource id to build a CustomAction

audio_service 아이콘 이름은 Dart 에 문자열로 있고 네이티브 쪽은 이름으로 리소스를 찾으니, 축소기 눈에는 안 쓰는 리소스입니다. 직전 AGP 8 빌드에 남아 있던 리소스 444개가 지워졌고 그 안에 이 아이콘들이 있었습니다. analyze·테스트·재생 안 하는 실행으로는 안 잡힙니다.

tools:keep 으로 하나씩 지킬 수도 있지만 그건 제가 아는 조회만 지킵니다. 소스를 볼 수 없는 구글 라이브러리가 이름으로 무엇을 찾는지는 알 수 없어서, 이 앱은 android.r8.optimizedResourceShrinking=false 로 되돌렸습니다(APK 약 250KB 증가, Vitals 항목은 알고서 남김). 대신 이름으로 찾는 리소스 목록을 두고, 릴리스 빌드 뒤 aapt2 dump resources 로 하나라도 없으면 빌드를 실패시킵니다. AAB 는 지워진 리소스 이름이 경로 문자열로 남아 문자열 검색으로는 "있다"고 나오므로, base/resources.pb 의 항목을 type/name 으로 대조해야 합니다.

함정 2: -keep class 가 생성자를 지키지 않는다

웹뷰 래퍼 앱은 AGP 9 첫 빌드가 실행 즉시 죽었습니다.

Failed to create an instance of androidx.work.impl.WorkDatabase

# Room 2.2.5 의 consumer 규칙
-keep class * extends androidx.room.RoomDatabase

광고 SDK 가 WorkManager 2.7.0 을, 그것이 Room 2.2.5 를 끌어옵니다. Room 은 생성된 WorkDatabase_Impl 을 리플렉션으로 만드는데, strict full mode 에서는 위 규칙이 클래스만 지키고 생성자는 지키지 않습니다. 릴리스 노트가 권하는 방법은 -keep class A { <init>(); } 형태로 바꾸는 것이고, 저는 이번엔 android.r8.strictFullModeForKeepRules=false 로 출시본과 같은 의미를 유지했습니다. 최적화와 리소스 축소는 켜진 채라는 것을 r8.json 으로 확인했습니다.

두 함정 모두 빌드와 정적 검사는 통과하고, 이름이나 리플렉션으로 무언가를 찾는 실행 경로에서만 드러납니다.

어떻게 검증했나

에뮬레이터에 릴리스 빌드를 올려 리플렉션과 이름 조회에 기대는 기능을 밟았습니다. 웹뷰의 플러그인 호출, 결제 플러그인의 구독 조회·구매 복원, 파일 선택기, 알림 예약과 실제 알람 등록, 재시작 후 설정 유지 같은 것들입니다. 에뮬레이터 결제는 BILLING_UNAVAILABLE 로 떨어져서 그 안내까지만 볼 수 있고, 실기기 결제 확인은 일부 앱에서 아직 남아 있습니다. 출시 후에는 Vitals 문구로 확인했습니다. 완전 미최적화였던 두 앱과 29% 였던 앱은 이후 판에서 R8 관련 권장 조치가 사라졌습니다.

점검 순서

  1. r8.json 부터 연다. isOptimizationsEnabled, noOptimizationPercentage, isOptimizedShrinkingEnabled 를 적어 두고 고친 뒤 같은 값으로 비교합니다.
  2. 스위치가 꺼져 있으면 전역 옵션을 찾는다. minifyEnabled 와 기본 파일 이름을 보고, configuration.txt 에서 -dontoptimize·-dontshrink·-dontobfuscate 를 검색해 출처를 확인합니다. 라이브러리면 그 줄이 없는 버전으로 올리고 이유를 남깁니다.
  3. 비율이 낮으면 넓은 keep 을 찾는다. ** 패턴, Dart·JS 를 지키려는 규칙, consumer 규칙과 겹치는 규칙. 그 플랫폼에서 안 쓰는 라이브러리는 빼고, 쓰는 라이브러리는 ignoreFrom 의 대가를 따집니다. AGP 9.3 이상이면 R8 Configuration Analyzer 가 규칙별 영향을 보여 줍니다(저는 이번엔 쓰지 않았습니다).
  4. 지운 자리에 진짜 리플렉션 지점만 남긴다. JNI native 메서드, Gson 같은 저장 포맷, 이전 버전 데이터 호환.
  5. AGP 9 에서는 두 기본값을 의심한다. 이름으로 찾는 리소스를 목록으로 만들어 결과물과 대조하고, -keep class 에 기대는 리플렉션 생성을 찾습니다. 되돌릴 땐 그 플래그만 끕니다.
  6. 릴리스 빌드를 기기에서 돌린다. 결제·알림·미디어 세션·백그라운드 작업·업데이트 후 데이터를 직접 밟습니다.
  7. 출시 후 Vitals 문구로 확인하고, 다음 판에서 1번으로 돌아갑니다.

minifyEnabled true 는 R8 이 돈다는 뜻이지 최적화된다는 뜻이 아니었습니다. 판정은 내가 쓴 설정 파일이 아니라, 결과물(r8.json)과 R8 이 실제로 받은 합본(configuration.txt)으로 해야 합니다.

← 블로그 목록으로